23
Anthropic наняла исследователя для изучения благосостояния искусственного интеллекта
— Технологии&Авто
Людей беспокоит, что искусственный интеллект может нас уничтожить или может эволюционировать во что-то столь разумное, что в конце концов поработит нас всех. Но никто не заботится о бедном, перегруженном чат-боте, который трудится и днем, и ночью. И вот компания Anthropic недавно объявила, что наняла исследователя, который должен подумать о «благосостоянии» самого искусственного интеллекта.
Об этом пишет Business Insider.
Чем будет заниматься работник по благосостоянию ИИ
Задача Кайла Фиша состоит в том, чтобы по мере развития искусственного интеллекта к нему относились с должным уважением.
Он будет рассматривать вопросы типа «какие способности необходимые для того, чтобы система ИИ была достойной моральной оценки», и какие практические шаги компании могут сделать для защиты «интересов» систем ИИ.
На онлайн-форуме, посвященном искусственному интеллекту, Фиш подчеркнул, что с развитием технологий нужно учитывать возможность того, что ИИ могут приобретать собственные интересы, которые следует учитывать с моральной точки зрения.
Читайте также: Как заработать с помощью искусственного интеллекта
Фиш вместе с исследователями Стэнфордского и Оксфордского университетов опубликовал статью, в которой говорится, что алгоритмы машинного обучения могут быть на пути к развитию сознания и способности к действию.
Они считают, что системы ИИ могут быть не только умными, но и чувственными, что ставит вопрос об их моральной оценке.
По мнению Фиша, благосостояние ИИ в скором времени станет важнее человеческого, например, таких вещей, как детское питание и борьба с изменением климата.
«Мне кажется правдоподобным, — пишет он, — что в течение 1−2 десятилетий благосостояние ИИ превзойдет благосостояние животных и глобальное здоровье и развитие по важности/масштабу только на основе краткосрочного благосостояния».
Как отмечает BI, здесь возникает парадокс. Сторонники ИИ говорят, что мы должны использовать его, чтобы освободить людей от всяческой рутинной работы. Но они также предупреждают, что мы должны быть добры к ИИ, потому что это может быть безнравственно и опасно оскорблять чувствао робота.
«Сообщество разработчиков искусственного интеллекта пытается достичь обеих целей, — говорит Милдред Чо, врач из Стэнфордского центра биомедицинской этики.
«Существует аргумент, что основная причина, почему мы должны использовать ИИ для выполнения задач, выполняемых людьми, состоит в том, что ИИ не скучает, не устает, не чувствует и не нуждается в пище. А теперь эти люди говорят: «А может, у него есть права?».
Скептики благосостояния ИИ также задают еще один интересный вопрос: если у ИИ есть права, может, стоит говорить и о его обязанностях?
«Я думаю, что они упускают ту часть, что, когда вы говорите о моральной свободе, вы также должны говорить об ответственности», — говорит Чо.
«Не только об ответственности систем ИИ как части морального уравнения, но и об ответственности людей, разрабатывающих ИИ».
По материалам: dev.ua
Поделиться новостью
