448
OpenAI распустила команду, занимавшуюся вопросами безопасности ИИ
— Технологии&Авто
OpenAI распустила свою команду, занимавшуюся долгосрочными рисками искусственного интеллекта, менее чем через год после ее создания, сообщает CNBC. Это решение было принято после того, как руководители группы Илья Суцкевер и Ян Лейке сообщили о своем уходе из компании.
Команду, известную как Superalignment, создали в 2023 году с целью разработки «научных и технических прорывов для управления системами искусственного интеллекта, которые значительно умнее нас».
OpenAI тогда заявила, что в течение четырех лет выделит 20% своих вычислительных мощностей на эту инициативу. Некоторых членов команды переведут в другие отделы компании.
Читайте также: Нейросети для бизнеса 2024. Что умеет искусственный интеллект?
Лейке поделился в X более подробной информацией о причинах своего решения. В частности, он написал, что большая часть ресурсов компании должна быть сосредоточена на безопасности, мониторинге, подготовленности, защищенности, конфиденциальности и влиянии на общество.
Зато, отмечает Лейке, культура безопасности и процессы OpenAI отошли на второй план. Генеральный директор OpenAI Сэм Альтман отреагировал так: «Мне очень грустно видеть, что он [Лейке] уходит. Он прав, нам еще многое предстоит сделать, и мы обязуемся это сделать. Я напишу более длинный пост в ближайшие несколько дней».
Что этому предшествовало?
Эти шумные отставки произошли на фоне прошлогодних проблем с руководством OpenAI.
В ноябре 2023 года Сэма Альтмана временно отстранили от должности гендиректора OpenAI. Именно Суцкевер сообщил Альтману, что тот должен покинуть компанию, потому что он не всегда был откровенным в общении с советом директоров.
Однако западные СМИ начали тогда писать, что проблема более сложная. The Wall Street Journal и другие медиа сообщали, что Суцкевер сосредоточил свое внимание на безопасности, чтобы искусственный интеллект не навредил людям. В то время как Альтман стремился продвинуть вперед новую технологию.
После давления со стороны сотрудников и инвесторов, включая Microsoft, Альтмана восстановили в должности. Тогда он сказал, что не испытывает к Суцкеверу «никакой неприязни». Однако, как писали The Information, по возвращении Альтмана Суцкевер покинул совет директоров и фактически не появлялся в компании.
По материалам: Ain.Ua
Поделиться новостью
