24
Цукерберг не хочет замедлять ИИ: он поддержал позицию главы NVIDIA
— Технологии&Авто
Генеральный директор Meta Марк Цукерберг заявил, что компании, разрабатывающие искусственный интеллект, должны уделять больше внимания безопасности и согласованию моделей с человеческими ценностями.
Его позиция более близка к взглядам генерального директора NVIDIA Дженсена Хуанга, чем к подходу руководителя Anthropic Дарио Амодея, который призывает замедлить развитие возможностей ИИ.
Безопасность станет конкурентным преимуществом
В сообщении в X Цукерберг заявил, что ИИ-компании, не уделяющие достаточно внимания «согласованию» (alignment) моделей с человеческими ценностями, будут в конце концов отставать от конкурентов.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/eoLGVY8yad Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens. The reality is: - People won't want to use agents that are misaligned with them and that don't do what they ask, so labs have a strong natural incentive to make their models more aligned. There is a lot of debate about slowing progress on capabilities until alignment catches up. My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models. Any lab that doesn't focus on alignment will fall behind. - Labs face significant liability if their models cause harm, so they have a strong incentive to prevent this as well. Meta delayed shipping Muse for several months to focus on safety and security. We didn't call for everyone else to do this before we would. We just did it as part of our day-to-day work because it was clearly the right thing for people and for us. I'm proud of the security foundations we've built. - Engaging independent evaluators and advisors is industry best practice. MSL already does this today in several areas because it helps produce better work. Other labs can just do this too. In general, it would be helpful for there to be a larger and more diverse ecosystem of evaluators. - Committing the significant majority of compute towards serving people rather than racing towards recursive self-improvement is one of the best ways to ensure we develop this technology safely. Meta has made this commitment and other labs can do this as well. I believe the key to building a positive future for everyone is maintaining the right balance of power. This is within our power to do.
— Mark Zuckerberg (@finkd) September 15, 2026
По его словам, доверие и «согласование» быстро становятся одними из важнейших характеристик, определяющих различия между ИИ-моделями и агентами.
Дискуссия обострилась после публикации Амодея, в которой он призвал технологическую индустрию замедлить темпы усовершенствования возможностей ИИ-моделей. Его позицию поддержал глава OpenAI Сэм Альтман, в то время как Дональд Трамп ее раскритиковал, заявив, что единственным «предохранителем» для ИИ является «сильный и умный президент США».
Цукерберг считает, что компании без дополнительного государственного регулирования имеют экономические стимулы для повышения безопасности своих продуктов. Он отметил, что ИИ-лаборатории могут столкнуться со значительной ответственностью, если их модели нанесут ущерб.
По словам Цукерберга, Meta даже отложила выпуск своих технологий Muse из-за соображений безопасности и защиты. Он подчеркнул, что компания сделала это добровольно, поскольку сочла такой подход правильным.
Призывы замедлить развитие ИИ
Дженсен Хуанг высказал схожую позицию на конференции Salesforce Dreamforce. Он заявил, что разработчики ИИ должны самостоятельно отвечать за свои продукты, а не добиваться новых законов для ограничения потенциальных рисков. По его словам, действующих законов и правил достаточно для регулирования надежности и функциональности продуктов.
В то же время, Амодей на Dreamforce повторил, что замедление разработки ИИ может стать способом повысить безопасность всей индустрии.
Альтман также подчеркнул, что при разработке ИИ безопасность и мониторинг должны быть приоритетнее новых функций. В то же время он признал, что конкуренция между компаниями и странами может создавать давление, усложняющее координацию усилий в сфере безопасности.
Дискуссия о темпах развития ИИ также влияет на настроения инвесторов. На фоне бума искусственного интеллекта и призывов лидеров отрасли замедлить развитие технологии, у них начали возникать опасения относительно дальнейшего роста фондового рынка. В то же время часть инвесторов считает, что потенциальные ограничения темпов развития ИИ в конечном счете могут пойти на пользу сектора, в частности, благодаря большему вниманию к безопасности и устойчивому развитию технологий.
По материалам: mezha.media
Поделиться новостью
