В опасной ситуации люди оказались марионетками роботов
08:36 01/03/2016 Наука и техника
| „ | надёжный способ заработать денег - запрограммировать робота, чтоб заводил людей, а потом за деньги выводить оттуда. | “ |
В ходе эксперимента американские ученые выяснили, что в чрезвычайной ситуации люди доверяют роботу больше, чем здравому смыслу и письменным инструкциям: действия машины считают более надежными. Об этом сообщает New Scientist.
Исследователи из Технологического института Джорджии посадили 30 добровольцев в небольшую аудиторию и попросили их выполнить задание. Внезапно зазвенела пожарная сигнализация и повалил дым. Студенты встали перед выбором: выходить из двери, через которую они вошли, или в темную и маленькую заднюю дверь, куда показывал робот. Оказалось, что большинство добровольцев (26 человек) подчинились роботу и ушли в сторону тупика. Два человека отказались участвовать в эксперименте, а еще двое остались на месте. Роботу (Pioneer P3-AT, напоминающему мусорный бак на колесах) даже не пришлось убеждать людей в своей правоте.
Отмечается, что люди поверили роботу именно потому, что он был «заточен» под конкретную задачу. На машине висел специальный плакат с надписью «Робот для чрезвычайных ситуаций». По мнению ученых, это поведение такое же, как у водителей, которые едут по маршруту своего навигатора, каким бы странным он ни был.
В дальнейших экспериментах исследователи попытались исследовать границы доверия к машинам. Сначала робота заставили «сломаться» и остановиться при въезде в аудиторию (после чего ученые принесли людям извинения). Но даже такой опыт не помешал участникам опыта целиком довериться роботу. Дальше Pioneer P3-AT показывал на темную комнату, вход в которую был частично закрыт предметами мебели. Однако даже в таких условиях два из шести участников опыта попытались протиснуться в проход — вместо того, чтобы выйти свободным путем.
Новое исследование добавило сложностей в одну из важнейших задач робототехники. Ученые ломают голову над тем, чтобы люди, с одной стороны, доверяли машинам (как раз для адекватного разрешения чрезвычайных ситуаций, например), но при этом могли понимать, когда им приказывает зловредная или сломанная машина.
Комментирование разрешено только первые 24 часа.
Комментарии(35):
| 7 +8−1 | Иван Иванов | 08:41:05 01/03/2016 |
Комментарий удалён. | ||
надёжный способ заработать денег - запрограммировать робота, чтоб заводил людей, а потом за деньги выводить оттуда. | ||
| 4 +6−2 | Дмитрий Лутанин | 08:50:50 01/03/2016 |
раньше говорили если женьщина показывает куда идти , то поварачивайся и идешь в другую сторону...., то же самое про робота, та же чертова штуковина.? | ||
| 3 +3−0 | Антон Петров | 09:32:05 01/03/2016 | ||||||
| ||||||||
Чем тележка отличается от такого же траспоранта на стене ??? Причём тут роботы ??? | ||||||||
| 3 +3−0 | Иван Неретин | 08:52:04 01/03/2016 |
Открыли велосипед: в опасной ситуации человек плохо соображает и его легко на#бать! | ||
| 3 +3−0 | Владимир Постников | 08:46:20 01/03/2016 | ||||||
| ||||||||
Какова цель исследования? Доверяют ли люди автоматизированным системам безопасности? Доверяют. Исследователи хотят посеять в них сомнение? Замечательно. Теперь в момент опасности всегда будут сомневающиеся. Отличный пример приведу, который уже неоднократно использовал, столкновение над Боденским озером. И теперь исследователям следует еще раз задуматься, следует ли заставлять сомневаться массы людей. При этом им следует помнить, что умные всегда сомневаются. | ||||||||
| 1 +1−0 | Вадим Ашдодский | 10:27:58 01/03/2016 |
Что за глупость? Любому испытуемому было ясно, что речь идёт не о сложной машине, способной оценить обстановку, а о примитивном автомате, действующем по заложенной инструкции. И поверили люди другим людям, заложившим определённые инструкции, а не "роботу". | ||
| 1 +1−0 | Антон Петров | 09:33:38 01/03/2016 | ||||||
| ||||||||
Нифига не плохо соображает, просто времени мало и действуют интуитивные программы, а не логика, которая требует больше времени. Если будешь думать в огне, скорее всего сгоришь, это закрепилось в естественном отборе, все кто включал логику на пожаре погибали, а те у кого интуитивные программы оказались верными - выживали. | ||||||||
| 1 +3−2 | Александр Павлов | 09:01:22 01/03/2016 | ||||||
| ||||||||
женьщина показывает куда идти ____________________ эт ты про Псаку? все верно. До последней буквы. | ||||||||
| 1 +1−0 | New New | 09:01:00 01/03/2016 |
Это потому, что из людей тоже сделали роботов. | ||
| 1 +2−1 | Соборов Виктор | 08:43:50 01/03/2016 |
Главное - "защита от дурака", от зловредного и "сломанного" учёного. | ||
| 1 +1−0 | Mr. Zoophone | 08:43:31 01/03/2016 | ||||||
| ||||||||
описаная ситуация не была экстремальной, вот если бы там дыма напустили, что дышать трудно, тогда реально можно посмотреть куда стадо ломанётся, и вряд ли кто-то остановится и будет слушать басни робота | ||||||||
| 0 +0−0 | Dmitriy_Silver__ | 17:33:22 01/03/2016 |
Странное исследование. Причём здесь именно доверие роботу? По-идее, он воспринимается как часть системы оповещения и эвакуации. С таким же успехом можно удивляться, что люди смеют доверять пожарной сигнализации. | ||
| 0 +0−0 | Vlad Kosichka | 12:31:07 01/03/2016 | ||||||
| ||||||||
План эвакуации рисуют и пишут люди. И развешивают стрелки с указанием направления тоже люди. Если случайно поменять планы эвакуации местами в незнакомом здании, а потом завести "исследователей" в одну из комнат и включить пожарную тревогу, то они тоже побегут не к выходу, а либо туда где считают что выход (премия Дарвина вне очереди), либо согласно плану (то есть через пару поворотов - уже переходя к пункту один). | ||||||||
| 0 +0−0 | Vlad Kosichka | 12:26:02 01/03/2016 |
1. При чем тут робот? Та же мигающая стрелка "аварийный выход", ведущая в тупик, произвела бы точно такой же эффект. 2. Испытуемые не знали, сработала пожарная сигнализация только "в комнате испытаний" или вообще по всему зданию. Во втором случае "выйти туда, откуда вошли" вместо следования на эвакуацию - выбор номинантов на Дарвина. 3. Не знаю как в стране проживания ученых, а в России захламление аварийных выходов - нарушение техники безопасности. И да, большинство будет все равно ломиться в них, только в случае если кроме сигнализации появились еще какие-то признаки опасности - не протискиваясь, а снося нафиг. В общем низачот. "Мы провели исследование и выяснили что люди доверяют требованиям техники безопасности больше чем своему здравому смыслу". Потому что техника безопасности писалась именно кровью тех, кто доверял "здравому смыслу". | ||
| 0 +0−0 | Болярский Виктор | 12:21:37 01/03/2016 |
Если без трёпа, то робота программируют люди. Все претензии - к "специалистам"! | ||
| 0 +0−0 | Призрак Бармалея | 11:59:54 01/03/2016 | ||||||
| ||||||||
Роботы моднее, чем транспортанты на стене. Проще получить финансирование под исследование. | ||||||||
| 0 +0−0 | Призрак Бармалея | 11:58:04 01/03/2016 | ||||||
| ||||||||
В столкновении над Боденским озером "робот" давал абсолютно верные инструкции, а катастрофа произошла, потому что один из экипажей выполнил противоречащие инструкциям робота рекомендации диспетчера. С тех пор инструции для пилотов, ранее несколько двусмысленные в этой области, были исправлены в пользу выполнения инструкций TCAS вне зависимости от наличия противоречащих инструкций диспетчета. Робот получил приоритет над человеком. | ||||||||
| 0 +0−0 | Дмитрий Стороженко | 11:39:13 01/03/2016 | ||||||
| ||||||||
В России результаты были бы другими. Охренеть эксперимент! Каких-то 26 человек, маловато для серьезных выводов. | ||||||||
| 0 +0−0 | Ilia Kouchnir | 11:24:18 01/03/2016 |
Да, это проблема.... Все бомжи с нетерпением ждут какое будет решение.... | ||
| 0 +0−0 | Вадим Ашдодский | 10:32:39 01/03/2016 | ||||||
| ||||||||
Способность человека сохранять спокойствие в экстремальных ситуациях не зависит от ума. Тут большее значение имеют опыт и характер. | ||||||||