2
Anthropic призвала к глобальной паузе в развитии ИИ
Американская Anthropic призвала ведущие ИИ-лаборатории рассмотреть возможность замедления темпов развития этой технологии.
Об этом пишет WSJ.
Почему Anthropic призвала замедлить развитие ИИ
В компании отмечают, что ИИ-системы совершенствуются настолько быстро, что вскоре, возможно, смогут усовершенствоваться без участия человека, и это несет в себе существенные риски для общества.
Anthropic все больше передает процесс разработки ИИ непосредственно самим ИИ-системам, что значительно ускоряет работу, говорится в статье, опубликованной главой Anthropic Institute Мариной Фаваро и соучредителем компании Джеком Кларком.
«Если этот процесс продолжится, то при наличии достаточных вычислительных мощностей он может привести к появлению ИИ-системы, способной самостоятельно проектировать и разрабатывать свою следующую версию. Это называется рекурсивным самосовершенствованием. Мы еще не достигли этого этапа, и рекурсивное самосовершенствование неизбежно. Однако оно может наступить гораздо раньше, чем к этому будет готово большинство общественных институтов», — говорится в статье.
Эксперты отмечают, что в ближайшие годы возможности ИИ систем существенно возрастут.
«ИИ, способный самосовершенствоваться, стал бы важнейшим этапом в развитии технологий и мог бы принести колоссальную пользу человечеству — в науке, здравоохранении и многих других областях», — отмечают авторы статьи.
Риски потери контроля
Однако, по их словам, это также повышает риск того, что люди лишатся контроля над ИИ-системами.
«Если ИИ-системы смогут полностью создавать своих преемников, то вопросы обеспечения их безопасности, мониторинга и управления их поведением приобретут дополнительную важность», — подчеркивается в статье.
Авторы считают, что «полезно» было бы замедлить развитие ИИ, чтобы выиграть больше времени для осмысления возможных последствий и решения потенциальных проблем.
Anthropic Institute намерена принимать меры для создания механизмов для замедления развития ИИ.
При этом в компании отмечают, что для реального замедления развития этой технологии необходимо чтобы ведущие ИИ-лаборатории в разных странах мира договорились о прекращении разработок на одинаковых условиях.
Кроме того, понадобится механизм, позволяющий каждой из этих организаций убедиться, что другие участники действительно соблюдают договоренности и фактически остановили работы.
По материалам: Інтерфакс-Україна
Поделиться новостью
