299
DARPA хочет наделить машины самооценкой
— Технологии&Авто
Поскольку машины становятся умнее, они вполне способны стать участниками команды в паре с человеком.
Но для повышения уровня доверия необходимо, чтобы автономная система могла трезво оценить свой уровень компетентности в реально складывающихся условиях и сообщить об этом человеку или участникам коллектива.
Сегодня это невозможно, уверены в DARPA, либо реализовано в самом зачаточном состоянии.
Для наделения автономных систем способностью трезвой самооценки DARPA запускает программу Competency-Aware Machine Learning (CAML). Уже из названия программы понятно, что агентство ищет решения в области машинного обучения и искусственного интеллекта. В программу входит не только моделирование и разработка алгоритмов поведения автономных систем, но также разработка интерфейса взаимодействия человека и машины.
В качестве примера автономной системы с возможностью самостоятельной оценки компетентности руководитель проекта CAML приводит следующую ситуацию. При заказе автономного такси ночью в плохую погоду клиент получает ответ от двух автомобилей, один из которых сообщает о 1000 успешных поездках в ночь и под дождём, в ходе которых система автомобиля с точностью 90 % отделяла живого человека от неодушевлённых препятствий. Другой автомобиль заявил о 99 % точности в сходных ситуациях, но он побывал в таких условиях только 100 раз. Тем самым клиент может сам сделать вывод и выбрать тот автомобиль, который покажется ему более опытным для поездки в сложных погодных условиях.
В конечном итоге знание человека об оперативном состоянии и готовности автономной системы выполнить определённую работу с прогнозируемым результатом повысит эффективность взаимодействия и приведёт к максимально согласованным действиям.
По материалам: 3dnews.ru
Поделиться новостью
Также по теме
Anthropic представила ИИ для работы с файлами для обычных пользователей
Rolls-Royce готовит новый электрический Cullinan (фото)
Самый мощный Toyota Land Cruiser выходит на европейский рынок (фото)
Xiaomi презентовала собственные умные очки: станут ли они конкурентом Meta и Amazon
Hyundai представила недорогой автодом для двоих в футуристическом стиле (фото)
ЦОД будут потреблять 70% памяти в 2026 году: дефицит ударит по авто и электронике
