«Больно мне, больно! Не унять эту злую боль». Ученые предложили способ привить ИИ-роботам эмпатию, чтобы они не захотели причинять вред людям

Группа социологов, неврологов и психиатров из Института мозга и творчества Университета Южной Калифорнии совместно с коллегами из Института изучения сознания, Университета Центральной Флориды и Медицинской школы Дэвида Геффена при Калифорнийском университете опубликовала в журнале Science Robotics исследование, в котором излагается новый подход к созданию роботов, способных сопереживать. В своей статье авторы предполагают, что традиционные подходы для создания полностью безопасных для людей роботов уже могут не сработать.

Появление ChatGPT и других подобных ему приложений с искусственным интеллектом уже оказало серьезное влияние на современное общество. Технологии ИИ используются для самых разных практических целей, но при этом вызывают разговоры об ограничении их развития из-за опасений, что они могут представлять угрозу для человека.

Некоторые специалисты в области ИИ считают, что предотвратить развитие такого сценария можно простым способом – наделить приложения эмпатией: способностью распознавать эмоции и чувства другого человека, понимать его внутреннее состояние и сопереживать ему.

В новой работе авторы согласны с таким подходом, но расходятся во мнениях относительно того, как имитировать это загадочное человеческое качество в машине.

Страдания очищают

Современный подход к наделению моделей ИИ способностью к эмпатии заключается в том, чтобы научить их видеть, как ведут себя люди в спорных с точки зрения морали сценариях, а затем следовать этому поведению соответствующим образом – путем жесткого кодирования некоторых правил в их механизмах.

Но такой подход, по мнению авторов, упускает из виду роль самосохранения в человеческой эмпатии. Например, если робот смотрит видеозапись, на которой человек испытывает боль после падения, его можно научить имитировать такую реакцию, чтобы установить контакт с пострадавшим, но это будет всего-лишь «актерская» игра, так как робот не будет испытывать реальные сопереживания.

Чтобы робот действительно мог проявить эмпатию, он должен сам испытать боль, которая возникает при падении. И именно это, по мнению исследователей, необходимо сделать, чтобы машины поняли, почему вредить кому-то плохо, а не просто кодировать правило в их логических схемах.

Ученые не предлагают программировать роботов на ощущение реальной боли, хотя когда-нибудь это может стать возможным, вместо этого нужно заставить их понять, что их действия могут иметь негативные последствия. Например, если они убьют своего спутника-человека, им придется жить без него. Или самому быть «убитым» за свои поступки. Для этого, по их мнению, необходимо наделить роботов способностью страдать – эффективное средство самодисциплины, если таковое вообще возможно.

Изображение:  Adobe Stock

Информационный источник для rbt.su

Читайте также: Российская компания YaCu Robotics начинает продажи беспилотного клининг-робота Unit