20
Anthropic найняла дослідника для вивчення добробуту штучного інтелекту
— Технології&Авто
Людей хвилює, що штучний інтелект може нас знищити або може еволюціонувати у щось настільки розумне, що врешті-решт поневолить нас усіх. Але ніхто не піклується про бідного, перевантаженого чат-бота, який трудиться і вдень, і вночі. І ось компанія Anthropic нещодавно оголосила, що найняла дослідника, який має подумати про «добробут» самого штучного інтелекту.
Про це пише Business Insider.
Чим займатиметься працівник з добробуту ШІ
Завдання Кайла Фіша полягатиме в тому, щоб у міру розвитку штучного інтелекту до нього ставилися з належною повагою.
Він розглядатиме питання типу «які здібності необхідні для того, щоб система ШІ була гідною моральної оцінки», і які практичні кроки компанії можуть зробити для захисту «інтересів» систем ШІ.
На онлайн-форумі, присвяченому штучному інтелекту, Фіш підкреслив, що з розвитком технологій треба враховувати можливість того, що ШІ можуть набувати власних інтересів, які варто враховувати з моральної точки зору.
Читайте також: Як заробити за допомогою штучного інтелекту
Фіш разом з дослідниками Стенфордського та Оксфордського університетів опублікував статтю, в якій йдеться про те, що алгоритми машинного навчання можуть бути на шляху до розвитку свідомості і здатності до дії.
Вони вважають, що системи ШІ можуть не лише бути розумними, але й чуттєвими, що ставить питання про їх моральну оцінку.
На думку Фіша, добробут ШІ незабаром стане важливішим за людський, наприклад, за такі речі, як дитяче харчування та боротьба зі зміною клімату.
«Мені здається правдоподібним, — пише він, — що протягом 1−2 десятиліть добробут ШІ перевершить добробут тварин і глобальне здоров’я та розвиток за важливістю/масштабом лише на основі короткострокового добробуту».
Як зазначає BI, тут виникає парадокс. Прихильники ШІ кажуть, що ми повинні використовувати його, щоб звільнити людей від усілякої рутинної роботи. Але вони також попереджають, що ми повинні бути добрими до ШІ, тому що це може бути аморально — і небезпечно — ображати почуття робота.
«Спільнота розробників штучного інтелекту намагається досягти обох цілей, — каже Мілдред Чо, лікар зі Стенфордського центру біомедичної етики.
«Існує аргумент, що основна причина, чому ми повинні використовувати ШІ для виконання завдань, які виконують люди, полягає в тому, що ШІ не нудьгує, не втомлюється, не має почуттів і не потребує їжі. А тепер ці люди кажуть: «А може, у нього є права?».
Скептики добробуту ШІ також ставлять ще одне цікаве питання: якщо ШІ має права, то чи не варто говорити і про його обов’язки?
«Я думаю, що вони упускають ту частину, що коли ви говорите про моральну свободу, ви також повинні говорити про відповідальність», — каже Чо.
«Не лише про відповідальність систем ШІ як частини морального рівняння, а й про відповідальність людей, які розробляють ШІ».
За матеріалами: dev.ua
Поділитися новиною
