Открыть меню

Google сформулировала пять проблем робототехники





Специалисты компаний Google и OpenAI совместно с учеными из Калифорнийского университета в Беркли и Стэнфордского университета назвали пять основных проблем, которые могут возникнуть при разработке искусственного интеллекта. В данном случае речь идет не о потенциальной угрозе человечеству со стороны машин, а о том, чтобы роботы эффективно выполняли свои задачи.

Исследователи выделяют следующие проблемы, которые следует учесть разработчикам ИИ:

  • избегание негативных побочных эффектов (к примеру, робот может что-нибудь сломать, чтобы быстрее выполнить свою работу);
  • мошенничество (робот-уборщик может прикрыть мусор вместо того, чтобы убрать его);
  • масштабируемость надзора (робот не должен злоупотреблять вниманием человека, который оценивает результаты его работы);
  • безопасность (робот может экспериментировать в ходе своей работы, но не должен выполнять заведомо опасных действий);
  • устойчивость к новым видам деятельности (робот не должен слепо использовать накопленный ранее опыт при изменении условий работы).

Исследователи отметили, что в дальнейшем разработчики ИИ могут столкнуться и с другими проблемами, о которых сейчас никто даже не подозревает.





Виджет от SocialMart


Оригинал материала



Нет комментариев

Добавить комментарий

11891