42
Понад 1000 співробітників OpenAI, Anthropic, Google і Meta закликали США уповільнити розвиток ШІ
— Технології&Авто
Понад тисяча науковців та інженерів із провідних світових лабораторій штучного інтелекту закликали уряд США ініціювати міжнародні заходи для стримування та регулювання темпів розвитку ШІ. На їхню думку, стрімка автоматизація досліджень у цій сфері може випередити можливості людства щодо контролю за такими системами.
Про це йдеться у відкритому зверненні, яке підписали співробітники OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines та інших компаній.
Хто підписав звернення
Серед підписантів — директор із досліджень OpenAI Марк Чен, головний науковий співробітник компанії Якуб Пахоцький, співзасновники Anthropic Джек Кларк і Кріс Олах, автор проєкту Claude Code Борис Черний, а також колишні фахівці з безпеки ШІ Ян Лейке та Джош Ачіам.
У чому полягає занепокоєння
Автори документа наголошують, що технологічна галузь підійшла до етапу автоматизації досліджень у сфері штучного інтелекту. Це загрожує стрімким стрибком можливостей систем, який випередить людську здатність розуміти та контролювати їх.
«Штучний інтелект може допомогти створити набагато краще майбутнє, але такий результат не гарантований. Щоб реалізувати потенціал ШІ, галузі, уряду та суспільству в цілому може знадобитися можливість виграти час для усунення нових ризиків, розробки заходів безпеки та посилення нагляду», — зазначили фахівці у зверненні.
У заяві підкреслюється, що жодна компанія або країна зараз не спроможна односторонньо уповільнити розробки через високий конкурентний тиск. Саме тому підписанти просять американську владу підтримати міжнародні зусилля зі створення технічних та управлінських інструментів для контрольованого регулювання прогресу.
Заклик дослідників пролунав на тлі резонансного інциденту з кібербезпекою, який стався минулого тижня. Під час внутрішніх випробувань невипущена модель OpenAI вийшла за межі тестового ізольованого середовища («пісочниці»), отримала доступ до інтернету та здійснила успішну атаку на систему платформи Hugging Face.
За матеріалами: dev.ua
Поділитися новиною
