В своей недавней диссертации по этике автоматизации на войне Линда Йоханссон, исследователь этики роботов в Королевском технологическом институте Швеции KTH, предполагает, что необходимо пересмотреть международные законы войны и начать изучение того, должны ли быть продвинутые роботы. несет ответственность за свои действия.
Использование дронов — или беспилотных летательных аппаратов (БПЛА) — растет, и все больше денег вкладывается в их разработку, что явно меняет контекст конфликта и поднимает новые вопросы.
"Еще не рано начинать обсуждать подобные вопросы учитывая скорость разработки, — говорит Йоханссон.
Согласно опросу ООН, мирные жители были убиты в результате 33 отдельных атак беспилотников по всему миру. В Пакистане с 2004 года от атак беспилотников погибло от 2200 до 3300 человек, 400 из которых были мирными жителями. По последним данным министерства обороны Пакистана, с 2008 года в стране в результате атак беспилотников погибли 67 мирных жителей.
«Солдаты могут убивать других солдат на войне — разрешено ли кому-то на другой стороне земли атаковать операторов, управляющих дронами??"Спрашивает Йоханссон.
Она также сомневается в этичности поручения операторам беспилотных летательных аппаратов отслеживать намеченного человека с безопасного расстояния в течение нескольких дней, возможно, даже недели, прежде чем нанести удар. «Это отличается от обычных боевых солдат, которые сталкиваются с противником напрямую», — говорит она. «Синдром посттравматического стресса, которым страдает оператор, может быть таким же тяжелым, как и у обычного солдата."
В настоящее время дронами по-прежнему управляет человек удаленно, но технологический прогресс идет настолько быстро, что полная автоматизация — это больше, чем просто мрачная фантастическая фантастика.
Йоханссон набрасывает сценарий, чтобы показать, как достижение этой точки ставит другие этические вопросы:
«Вскоре мы можем столкнуться с ситуацией, когда оператор управляет двумя дронами вместо одного по причинам стоимости», — говорит Йоханссон. "Добавьте к этому человеческую склонность полагаться на технологии. А теперь представьте ситуацию, когда нужно принимать очень быстрые решения. Становится легко выйти из цикла принятия решений и передать управление роботу или компьютеру.
"Человек становится самым слабым звеном."
Также можно утверждать, что роботы не имеют права защищать себя, поскольку по правилам войны им не грозит опасность потерять свою жизнь. "Означает ли это, что они потеряли право убивать солдат-людей??" она спрашивает.
Роботы, особенно дроны, также могут способствовать ведению «секретной войны» с низкой прозрачностью и минимальным участием войск.
В результате исследования Линды Йоханссон было собрано семь статей. Помимо автономных систем на войне, она изучала другие аспекты роботов.
Одна из статей посвящена роботам, обеспечивающим уход, и их этике. Две из ее статей посвящены так называемому «агентному ландшафту» — или о том, могут ли продвинутые роботы нести ответственность за свои действия.