330
OpenAI формує команду із запобігання «катастрофічним ризикам» ШІ
— Технології&Авто
Компанія-розробник ChatGPT — OpenAI — започаткувала нову команду, яка працюватиме над мінімізацією ризиків, повʼязаних зі стрімким поширенням штучного інтелекту. Зокрема, опікуватиметься проблемами кібербезпеки, хімічними, ядерними та біологічними загрозами.
Про це повідомляє Bloomberg.
Нову команду називають Preparedness team, тобто «команда готовності». Команду очолив виходець з MIТ Александр Мадрі.
Група аналізуватиме та намагатиметься запобігти потенційним «катастрофічним ризикам» систем штучного інтелекту, починаючи від проблем кібербезпеки і закінчуючи хімічними, ядерними та біологічними загрозами.
Серед іншого, команда опікуватиметься проблемами автономної реплікації та адаптації ШІ (що логічно, враховуючи амбіції OpenAI побудувати «суперінтелект» в майбутньому).
Мета OpenAI зосереджена на створенні ШІ, який може виконувати низку завдань краще, ніж люди (в компанії його називають AGI — Artificial General Intelligence). Оскільки поточні системи не відповідають цьому опису, компанія заявила, що їй необхідно «переконатися, що у нас є розуміння та інфраструктура, необхідні для безпечних та високопродуктивних систем штучного інтелекту».
Нова команда розробить політику, щоб допомогти компанії визначити, як вона може зменшити ризики, пов’язані з розробкою такої ШІ-технології наступного покоління.
Наразі «команда готовності» на стадії комплектування. Компанія має незакриті вакансії у Сан-Франциско, а також шукатиме кандидатів через конкурс Preparedness Challenge, в межах якого всім охочим пропонують розповісти про неочевидні ризики від ШІ. 10 переможців отримають $25 000 у вигляді API-кредитів.
За матеріалами:
Поділитися новиною
