66
Более 1000 сотрудников OpenAI, Anthropic, Google и Meta призвали США замедлить развитие ИИ
— Технологии&Авто
Более тысячи ученых и инженеров из ведущих мировых лабораторий искусственного интеллекта призвали правительство США инициировать международные меры по сдерживанию и регулированию темпов развития ИИ. По их мнению, стремительная автоматизация исследований в этой сфере может опередить возможности человечества по контролю над такими системами.
Об этом говорится в открытом обращении, подписанном сотрудниками OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines и других компаний.
Кто подписал обращение
Среди подписантов — директор по исследованиям OpenAI Марк Чен, главный научный сотрудник компании Якуб Пахоцкий, соучредители Anthropic Джек Кларк и Крис Олах, автор проекта Claude Code Борис Черный, а также бывшие специалисты по безопасности ИИ Ян Лейке и Джош Ачиам.
Что беспокоит
Авторы документа отмечают, что технологическая отрасль подошла к этапу автоматизации исследований в области искусственного интеллекта. Это чревато резким скачком возможностей систем, который опередит человеческую способность понимать и контролировать их.
«Искусственный интеллект может помочь создать гораздо лучшее будущее, но такой результат не гарантирован. Чтобы реализовать потенциал ИИ, отрасли, правительства и обществу в целом, может потребоваться возможность выиграть время для устранения новых рисков, разработки мер безопасности и усиления надзора», — отметили специалисты в обращении.
В заявлении подчеркивается, что ни одна компания или страна сейчас не способна односторонне замедлить разработки из-за высокого конкурентного давления. Именно поэтому подписанты просят американские власти поддержать международные усилия по созданию технических и управленческих инструментов для контролируемого регулирования прогресса.
Призыв исследователей раздался на фоне произошедшего на прошлой неделе резонансного инцидента с кибербезопасностью. Во время внутренних испытаний невыпущенная модель OpenAI вышла за пределы тестовой изолированной среды («песочницы»), получила доступ в интернет и совершила успешную атаку на систему платформы Hugging Face.
По материалам: dev.ua
Поделиться новостью
