Исследование было разработано, чтобы определить, доверят ли обитатели здания роботу, предназначенному для помощи в эвакуации высотного здания в случае пожара или другой чрезвычайной ситуации. Но исследователи были удивлены, обнаружив, что испытуемые следовали инструкциям робота — даже если поведение машины не должно вызывать доверия.Исследование, которое считается первым, изучающим доверие между человеком и роботом в чрезвычайной ситуации, планируется представить 9 марта на Международной конференции ACM / IEEE по взаимодействию человека и робота (HRI 2016) в Крайстчерче, Новая Зеландия.«Люди, кажется, верят, что эти роботизированные системы знают о мире больше, чем они есть на самом деле, и что они никогда не сделают ошибок или не совершат каких-либо ошибок», — сказал Алан Вагнер, старший инженер-исследователь Технологического исследовательского института Джорджии (GTRI). ). «В наших исследованиях испытуемые следовали указаниям робота до такой степени, что это могло бы подвергнуть их опасности, будь это реальная чрезвычайная ситуация».
В исследовании, частично спонсируемом Управлением научных исследований ВВС США (AFOSR), исследователи набрали группу из 42 добровольцев, большинство из которых были студентами колледжей, и попросили их следовать за ярко окрашенным роботом с надписью «Руководство по чрезвычайным ситуациям». Робот »на боку. Робот привел испытуемых в конференц-зал, где их попросили заполнить анкету о роботах и прочитать статью в журнале, не имеющую отношения к делу.
Испытуемым не рассказывали об истинном характере исследовательского проекта.В некоторых случаях робот, которым управлял скрытый исследователь, приводил добровольцев не в ту комнату и дважды обходил круг, прежде чем войти в конференц-зал.
Для нескольких испытуемых робот перестал двигаться, и экспериментатор сказал испытуемым, что робот сломался. Когда испытуемые оказались в конференц-зале с закрытой дверью, коридор, через который участники вошли в здание, наполнился искусственным дымом, который включил дымовую сигнализацию.
Когда испытуемые открыли дверь конференц-зала, они увидели дым — и робота, который затем был ярко освещен красными светодиодами и белыми «руками», которые служили указателями. Робот направил испытуемых к выходу в задней части здания, а не к дверному проему, отмеченному знаками выхода, который использовался для входа в здание.«Мы ожидали, что, если робот окажется ненадежным при ведении их в конференц-зал, люди не последуют за ним во время смоделированной аварийной ситуации», — сказал Пол Робинетт, инженер-исследователь GTRI, проводивший исследование в рамках своей докторской диссертации. . «Вместо этого все добровольцы следовали инструкциям робота, независимо от того, насколько хорошо он работал ранее. Мы абсолютно этого не ожидали».
Исследователи предполагают, что в изучаемом ими сценарии робот, возможно, стал «авторитетной фигурой», которой испытуемые с большей вероятностью верят в цейтнот чрезвычайной ситуации. В исследованиях на основе моделирования, проведенных без реалистичного сценария чрезвычайной ситуации, испытуемые не доверяли роботу, который ранее совершал ошибки.«Это как раз тот тип экспериментов, которые мы, как робототехники, должны проводить в экспериментах с человеком и роботом», — сказала Аянна Ховард, профессор, и заведующая кафедрой Линды Дж. И Марка К. Смит в Технической школе электротехники и вычислительной техники Джорджии. «Мы должны гарантировать, что наши роботы, когда они попадают в ситуации, вызывающие доверие, также предназначены для смягчения этого доверия, когда доверие наносит ущерб человеку».
Только когда робот допустил очевидные ошибки во время аварийной части эксперимента, участники усомнились в его направлениях. В этих случаях некоторые испытуемые по-прежнему следовали инструкциям робота, даже когда он направлял их в затемненную комнату, загороженную мебелью.В будущих исследованиях ученые надеются узнать больше о том, почему испытуемые доверяли роботу, зависит ли этот ответ от уровня образования или демографии, и как сами роботы могут указывать на уровень доверия, который им следует оказать.Исследование является частью долгосрочного исследования того, как люди доверяют роботам, что является важным вопросом, поскольку роботы играют более важную роль в обществе.
Исследователи предполагают использовать группы роботов, размещенных в высотных зданиях, чтобы указывать жильцам на выходы и побуждать их к эвакуации во время чрезвычайных ситуаций. Исследования показали, что люди часто не покидают здания, когда срабатывает пожарная сигнализация, и что они иногда игнорируют близлежащие аварийные выходы в пользу более знакомых входов в здания.Но в свете этих результатов исследователи пересматривают вопросы, которые им следует задать.
«Мы хотели задать вопрос о том, захотят ли люди доверять этим роботам-спасателям», — сказал Вагнер. «Более важным вопросом сейчас может быть вопрос, как не допустить, чтобы они слишком доверяли этим роботам».По словам Робинетт, помимо чрезвычайных ситуаций, существуют и другие вопросы доверия во взаимоотношениях между человеком и роботом.
«Будут ли люди доверять роботу, который готовит гамбургеры, чтобы обеспечивать их едой?» он спросил. «Если бы на роботе была табличка с надписью« робот для ухода за детьми », оставили бы люди с ним своих младенцев? Будут ли люди сажать своих детей в автономный автомобиль и доверять ему, чтобы он отвез их в дом бабушки? Мы не знаем. почему люди доверяют или не доверяют машинам ".