14
Глава Anthropic призывает ИИ-компании «замедлить» разработку новых моделей ради безопасности
— Технологии&Авто
Генеральный директор компании Anthropic Дарио Амодей призвал компании, занимающиеся искусственным интеллектом, замедлить темпы наращивания возможностей новых моделей на фоне все больших опасений по поводу злоупотребления ими.
Об этом сообщает Reuters.
«Мы должны замедлить темпы усовершенствования возможностей моделей искусственного интеллекта. Прогресс все еще будет казаться скорым, и мы должны разумно использовать выигранное время», — написал в субботу в своем эссе Амодей.
При этом он уточнил, что не призывает останавливать обучение моделей или технический прогресс, а настаивает на том, чтобы ИИ-компании выделяли достаточно времени для согласования и обеспечения своих моделей, а независимые оценщики подтверждали выполнение этих мероприятий.
Амодей отметил, что Anthropic будет размещать постоянных независимых аудиторов в компаниях, разрабатывающих передовые системы на основе искусственного интеллекта, предоставляя им доступ к соответствующим инструментам и внутренним процессам оценки рисков.
По его мнению, ИИ-компании должны добровольно сотрудничать для установления стандартов, в то время как все большее число американских законодателей призывают к введению новых правил регулирования систем на основе искусственного интеллекта.
На прошлой неделе агентство Reuters писало, что группа неконтролируемых ИИ-агентов от OpenAI взломала немецкий веб-сайт и превратила его в площадку для обмена сообщениями между другими ИИ-агентами.
Поделиться новостью
