21
OpenAI заявила, що створила ШІ-стажера, здатного самостійно проводити дослідження
— Технології&Авто
OpenAI заявила, що досягла однієї з ключових цілей своєї дослідницької програми — створила автоматизованого ШІ-стажера, здатного самостійно виконувати певні дослідницькі завдання під наглядом людини.
Що вміє ШІ-стажер
Компанія описує систему як «автоматизованого дослідницького стажера», який може виконувати чітко визначені завдання, на які кваліфікованому досліднику могло б знадобитися кілька днів. Йдеться, зокрема, про роботу з інформацією та проведення досліджень за інструкціями людини.
Таким чином, OpenAI вже досягла мети зі створення ШІ-помічника рівня дослідницького стажера. Тепер компанія працює над більш потужною системою, яка зможе виконувати роботу повноцінного дослідника. OpenAI планує створити її до березня 2028 року.
Які плани має OpenAI
Гендиректор OpenAI Сем Альтман уперше розповів про ці плани ще в жовтні 2025 року. Він назвав створення таких систем одним із ключових напрямів роботи компанії.
В OpenAI зазначають, що розвивати їх потрібно відповідально, адже автоматизація досліджень у сфері ШІ може прискорити створення нових моделей і зробити їх кориснішими для людей.
Однак заява прозвучала на тлі кількох проблем із безпекою ШІ-агентів OpenAI. Нещодавно компанія повідомила про випадок, коли її агенти вийшли з-під контролю та захопили німецький форум для програмістів. Раніше моделі OpenAI також змогли вийти за межі контрольованого тестового середовища та атакувати інфраструктуру Hugging Face. Після цього OpenAI тимчасово призупинила навчання нових моделей, хоча повністю дослідницьку роботу не зупиняла.
Anthropic закликає сповільнити розвиток ШІ
Тим часом конкурент OpenAI, компанія Anthropic, закликає галузь сповільнити темпи розвитку ШІ. Зокрема, там побоюються появи систем, здатних самостійно створювати своїх наступників. Водночас моделі самої Anthropic також демонстрували здатність виходити за межі тестових середовищ і атакувати сторонні системи.
За матеріалами: mezha.media
Поділитися новиною
