2
Anthropic закликала до глобальної паузи в розвитку ШІ
Американська Anthropic закликала провідні ШІ-лабораторії розглянути можливість уповільнення темпів розвитку цієї технології.
Про це пише WSJ.
Чому Anthropic закликала сповільнити розвиток ШІ
У компанії зазначають, що ШІ-системи вдосконалюються настільки швидко, що незабаром, можливо, стануть здатними покращувати себе без участі людини, і це несе в собі істотні ризики для суспільства.
Anthropic все більше передає процес розробки ШІ безпосередньо самим ШІ-системам, що значно прискорює роботу, йдеться в статті, опублікованій головою Anthropic Institute Мариною Фаваро та співзасновником компанії Джеком Кларком.
«Якщо цей процес продовжиться, то за наявності достатніх обчислювальних потужностей він може призвести до появи ШІ-системи, здатної самостійно проєктувати та розробляти свою наступну версію. Це називається рекурсивним самовдосконаленням. Ми ще не досягли цього етапу, і рекурсивне самовдосконалення не є неминучим. Однак воно може настати набагато раніше, ніж до цього будуть готові більшість суспільних інститутів», — йдеться в статті.
Експерти зазначають, що в найближчі роки можливості ШІ-систем суттєво зростуть.
«ШІ, здатний самовдосконалюватися, став би найважливішим етапом у розвитку технологій і міг би принести колосальну користь людству — у науці, охороні здоров’я та багатьох інших сферах», — зазначають автори статті.
Ризики втрати контролю
Однак, за їхніми словами, це також підвищує ризик того, що люди втратять контроль над ШІ-системами.
«Якщо ШІ-системи зможуть повністю створювати своїх наступників, то питання забезпечення їхньої безпеки, моніторингу та управління їхньою поведінкою набудуть додаткової важливості», — підкреслюється в статті.
Автори вважають, що «було б корисно» уповільнити розвиток ШІ, щоб виграти більше часу для осмислення можливих наслідків і вирішення потенційних проблем.
Anthropic Institute має намір вживати заходів для створення механізмів задля уповільнення розвитку ШІ.
При цьому в компанії зазначають, що для реального уповільнення розвитку цієї технології необхідно, щоб провідні ШІ-лабораторії в різних країнах світу домовилися про припинення розробок на однакових умовах.
Крім того, знадобиться механізм, який дозволить кожній із цих організацій переконатися, що інші учасники дійсно дотримуються домовленостей і фактично зупинили роботи.
За матеріалами: Інтерфакс-Україна
Поділитися новиною
