24
Цукерберг не хоче сповільнювати ШІ: він підтримав позицію глави NVIDIA
— Технології&Авто
Генеральний директор Meta Марк Цукерберг заявив, що компанії, які розробляють штучний інтелект, мають приділяти більше уваги безпеці та узгодженню моделей із людськими цінностями.
Його позиція ближча до поглядів генерального директора NVIDIA Дженсена Хуанга, ніж до підходу керівника Anthropic Даріо Амодея, який закликає сповільнити розвиток можливостей ШІ.
Безпека стане конкурентною перевагою
У дописі в X Цукерберг заявив, що ШІ-компанії, які не приділяють достатньо уваги «узгодженню» (alignment) моделей із людськими цінностями, зрештою відставатимуть від конкурентів.
Last month I wrote about how we can build a positive and safe future for everyone: https://t.co/eoLGVY8yad Every lab has the responsibility and incentive to move at the pace required to train its models safely, and the ability to take its own actions to ensure that happens. The reality is: - People won't want to use agents that are misaligned with them and that don't do what they ask, so labs have a strong natural incentive to make their models more aligned. There is a lot of debate about slowing progress on capabilities until alignment catches up. My view is that trust and alignment are quickly becoming the most important capabilities that will differentiate agents and models. Any lab that doesn't focus on alignment will fall behind. - Labs face significant liability if their models cause harm, so they have a strong incentive to prevent this as well. Meta delayed shipping Muse for several months to focus on safety and security. We didn't call for everyone else to do this before we would. We just did it as part of our day-to-day work because it was clearly the right thing for people and for us. I'm proud of the security foundations we've built. - Engaging independent evaluators and advisors is industry best practice. MSL already does this today in several areas because it helps produce better work. Other labs can just do this too. In general, it would be helpful for there to be a larger and more diverse ecosystem of evaluators. - Committing the significant majority of compute towards serving people rather than racing towards recursive self-improvement is one of the best ways to ensure we develop this technology safely. Meta has made this commitment and other labs can do this as well. I believe the key to building a positive future for everyone is maintaining the right balance of power. This is within our power to do.
— Mark Zuckerberg (@finkd) September 15, 2026
За його словами, довіра та «узгодження» швидко стають одними з найважливіших характеристик, які визначатимуть відмінності між ШІ-моделями та агентами.
Дискусія загострилася після публікації Амодея, у якій він закликав технологічну індустрію уповільнити темпи вдосконалення можливостей ШІ-моделей. Його позицію підтримав голова OpenAI Сем Альтман, тоді як Дональд Трамп її розкритикував, заявивши, що єдиним «запобіжником» для ШІ є «сильний і розумний президент США».
Цукерберг вважає, що компанії й без додаткового державного регулювання мають економічні стимули для підвищення безпеки своїх продуктів. Він зазначив, що ШІ-лабораторії можуть зіткнутися зі значною відповідальністю, якщо їхні моделі завдадуть шкоди.
За словами Цукерберга, Meta навіть відклала випуск своїх технологій Muse через міркування безпеки та захисту. Він підкреслив, що компанія зробила це добровільно, оскільки вважала такий підхід правильним.
Заклики сповільнити розвиток ШІ
Дженсен Хуанг висловив схожу позицію під час конференції Salesforce Dreamforce. Він заявив, що розробники ШІ повинні самостійно відповідати за свої продукти, а не домагатися нових законів для обмеження потенційних ризиків. За його словами, чинних законів і правил уже достатньо для регулювання надійності та функціональності продуктів.
Водночас Амодей на Dreamforce повторив, що уповільнення розробки ШІ може стати способом підвищити безпеку всієї індустрії.
Альтман також наголосив, що під час розробки ШІ безпека та моніторинг мають бути пріоритетнішими за нові функції. Водночас він визнав, що конкуренція між компаніями та країнами може створювати тиск, який ускладнює координацію зусиль у сфері безпеки.
Дискусія про темпи розвитку ШІ також впливає на настрої інвесторів. На тлі буму штучного інтелекту та закликів лідерів галузі сповільнити розвиток технології у них почали виникати побоювання щодо подальшого зростання фондового ринку. Водночас частина інвесторів вважає, що потенційні обмеження темпів розвитку ШІ зрештою можуть піти на користь сектору, зокрема завдяки більшій увазі до безпеки та сталого розвитку технологій.
За матеріалами: mezha.media
Поділитися новиною
