DARPA хочет наделить машины самооценкой


DARPA хочет наделить машины самооценкой

Поскольку машины становятся умнее, они вполне способны стать участниками команды в паре с человеком.

Но для повышения уровня доверия необходимо, чтобы автономная система могла трезво оценить свой уровень компетентности в реально складывающихся условиях и сообщить об этом человеку или участникам коллектива.

Сегодня это невозможно, уверены в DARPA, либо реализовано в самом зачаточном состоянии.

Для наделения автономных систем способностью трезвой самооценки DARPA запускает программу Competency-Aware Machine Learning (CAML). Уже из названия программы понятно, что агентство ищет решения в области машинного обучения и искусственного интеллекта. В программу входит не только моделирование и разработка алгоритмов поведения автономных систем, но также разработка интерфейса взаимодействия человека и машины.

В качестве примера автономной системы с возможностью самостоятельной оценки компетентности руководитель проекта CAML приводит следующую ситуацию. При заказе автономного такси ночью в плохую погоду клиент получает ответ от двух автомобилей, один из которых сообщает о 1000 успешных поездках в ночь и под дождём, в ходе которых система автомобиля с точностью 90 % отделяла живого человека от неодушевлённых препятствий. Другой автомобиль заявил о 99 % точности в сходных ситуациях, но он побывал в таких условиях только 100 раз. Тем самым клиент может сам сделать вывод и выбрать тот автомобиль, который покажется ему более опытным для поездки в сложных погодных условиях.

В конечном итоге знание человека об оперативном состоянии и готовности автономной системы выполнить определённую работу с прогнозируемым результатом повысит эффективность взаимодействия и приведёт к максимально согласованным действиям.

  • i

    Если Вы заметили ошибку, выделите необходимый текст и нажмите Ctrl+Enter, чтобы сообщить нам об этом.

Смотри также
Сервис подбора кредитов
  • Отправьте заявку
  • Узнайте решение банка
  • Подтвердите заявку и получите деньги
грн
Заказать кредит онлайн
В Контексте Finance.ua