Автопилот Uber сбил велосипедиста из-за команды игнорировать препятствия

00:36 08/05/2018 Наука и техника
Автопилот Uber сбил велосипедиста из-за команды игнорировать препятствия
Самоуправляемый автомобиль сервиса такси Uber насмерть сбил велосипедистку в Аризоне (США) из-за сбоя в программе. Расследование показало, что сенсоры автомобиля видели пересекавшую проезжую часть женщину, но программа решила, что на это «препятствие» не нужно реагировать.
Первая победа машин

Самоуправляемый автомобиль сервиса такси Uber насмерть сбил велосипедистку в Аризоне (США) из-за сбоя в программе, приказавшего машине игнорировать другие объекты на дороге. Об этом пишет The Information со ссылкой на источники в компании.

Инцидент произошел 18 марта. 49-летняя женщина пересекала проезжую часть, когда ее на полной скорости сбил автомобиль.

Расследование показало, что сенсоры автомобиля видели женщину, но программа решила, что на это «препятствие» не нужно реагировать. Собеседник издания пояснил, что такая возможность была изначально заложена, чтобы исключить ложные срабатывания, когда машина тормозит перед, например, летящим по воздуху полиэтиленовым пакетом.

Разработкой беспилотных автомобилей занимаются многие автоконцерны, среди которых General Motors, Volvo, Jaguar Land Rover, Volkswagen, а также компания Илона Маска Tesla. Она создала в том числе электрический грузовик с автопилотом.

Как правило, выпускаемые и проектируемые автомобили не полностью автономны и предполагают возможность управления водителем.

24 января электромобиль Tesla попал в ДТП в американском городе Калвер-Сити штата Калифорния. Седан Model S двигался по дороге со скоростью 104 километра в час и врезался в стоявший автомобиль пожарных, которые оказывали помощь участникам другого ДТП. Жертв и пострадавших удалось избежать.

Комментирование разрешено только первые 24 часа.

Комментарии(39):

1 2+1
7 +0−0виталий кармазин01:03:46
08/05/2018
Первая победа машин
6 +0−0Мамка модера01:01:09
08/05/2018
жертва быдлокодинга
5 +0−0karabassssssss02:00:03
08/05/2018
-Человек лишь временное препятствие на пути машин! - Скайнет.
5 +0−0Разрушитель Систем Аркадий I01:39:10
08/05/2018
Комментарий удалён.
Абсолютная не правда. Изначально за Прибалтикой стояли црушники, а дальше марионеткам дали фин потоки, а дальше президенты, которые то жили до этого в США, то жены сшастые, и пр и т.д. А дальше США готовились к оккупации Ирака, для возвращения туда своих нефтекомпаний, и создавали коалицию, чтобы поделить оккупацию и пр и т.д. Это следствие компании Клинтона на Балканах, и Буша+ администрации олигархов на мидл ЕАСТ, Афганистане...ну и произрайльский Трампнаш подходит к своей миссии на Земле в Иране...
2 +0−0Коля Николаев06:13:41
08/05/2018
Началось!
Ибо как я говорил, нет искусственного интеллекта (ИИ) ,
а есть Искусственная Имитация Интеллекта (ИИИ)!
2 +0−0Paul Hard02:23:40
08/05/2018
это уже не фантастика , это роботы- убийцы...неподсудные
2 +0−0Йожык Йожикович02:04:09
08/05/2018
0 +0−0nonbaklan00:56:33
08/05/2018
Нарушены базовые принципы роботостроения
1) Робот не может причинить вред человеку.

Если закладывали возможность игнорирование «препятствия», то должно быть условие,
что существует абсолютная уверенность, что препятствием является не человек.
Этого, похоже, не было сделано в программе.

Короче, автомобиль должен управляться человеком. Нет уверенности, что робот достоверно распознаёт человека и не причинит ему вреда по главному принципу роботостроения.
ничего не нарушено. ПРосто робот НЕ РАСПОЗНАЛ человека.
2 +0−0Мочи пиндосов02:00:31
08/05/2018
Комментарий удалён.
подмена понятий - в твоём скудном разуме
1 +0−0Никита Иванов06:48:55
08/05/2018
-2 +0−0Dmitry Pi01:05:08
08/05/2018
Запад разрабатывает автопилот для автомобиля. Россия - для беспилотного танка.
именно поэтому военный бюджет сша больше раз в десять, что же они тогда там такое разрабатывают интересно даже знать. шутка не удалась троль
1 +0−0K03:18:34
08/05/2018
1 +0−0Maxim Listage02:18:46
08/05/2018
а если бы там был беспилотный КАМАЗ!? поломал бы всю автотрассу
А если беспилотный БелАЗ, он бы вообще никого не заметил, помял и дорогу, и всех едущих, приехал бы в город и стал там хулиганить!
1 +0−0Price Lightercom02:33:23
08/05/2018
0 +0−0nonbaklan00:56:33
08/05/2018
Нарушены базовые принципы роботостроения
1) Робот не может причинить вред человеку.

Если закладывали возможность игнорирование «препятствия», то должно быть условие,
что существует абсолютная уверенность, что препятствием является не человек.
Этого, похоже, не было сделано в программе.

Короче, автомобиль должен управляться человеком. Нет уверенности, что робот достоверно распознаёт человека и не причинит ему вреда по главному принципу роботостроения.
В компании iRobot абсолютное большинство сотрудников ничего не знает о законах роботостроения. Я уверен, что в Убере тоже об этом не знают.
1 +0−0Maxim Listage02:18:46
08/05/2018
а если бы там был беспилотный КАМАЗ!? поломал бы всю автотрассу
1 +0−0Разрушитель Систем Аркадий I01:43:03
08/05/2018
5 +0−0Разрушитель Систем Аркадий I01:39:10
08/05/2018
Абсолютная не правда. Изначально за Прибалтикой стояли црушники, а дальше марионеткам дали фин потоки, а дальше президенты, которые то жили до этого в США, то жены сшастые, и пр и т.д. А дальше США готовились к оккупации Ирака, для возвращения туда своих нефтекомпаний, и создавали коалицию, чтобы поделить оккупацию и пр и т.д. Это следствие компании Клинтона на Балканах, и Буша+ администрации олигархов на мидл ЕАСТ, Афганистане...ну и произрайльский Трампнаш подходит к своей миссии на Земле в Иране...
Почитайте сколько вождей Прибалтики прошло стажировку в США после 90 тых
1 +0−0Разрушитель Систем Аркадий I01:32:46
08/05/2018
Где цел пакет, а где чел ? Создатели "Армагеддона" какие-то...
1 +0−0kseno fob01:17:35
08/05/2018
Программиста под суд
0 +0−0Юрий Устинов09:57:21
08/05/2018
у нас на Камазах поставят рассекатели от паровозов. сгребать препятствия на оба бока. а там как повезёт - или на обочину покатятся или под задние колеса засосёт.
0 +0−0Dmitry Pi08:19:52
08/05/2018
0 +0−0karabassssssss01:57:48
08/05/2018
Десятки миллионов тачек на автопилоте будут убивать миллионы людей (из-за сбоев,вирусов,взлома,брака,по заказу)а несколько тысяч беспилотных танков (может быть), будут убивать террористов только по приказу....
Удобный у вас телевизор, где всех убитых без суда и следствия записывают в террористы. Да и суд ваш то же посмешище, судя по делу Савченко.
0 +0−0Dmitry Pi08:18:42
08/05/2018
1 +0−0Никита Иванов06:48:55
08/05/2018
именно поэтому военный бюджет сша больше раз в десять, что же они тогда там такое разрабатывают интересно даже знать. шутка не удалась троль
Троль, У США вообще весь бюджет в 10 раз больше. А военный бюджет - это всего лишь его малая доля.
0 +0−0Калифорния Милдронат08:13:35
08/05/2018
2 +0−0Йожык Йожикович02:04:09
08/05/2018
ничего не нарушено. ПРосто робот НЕ РАСПОЗНАЛ человека.
нулевой принцип неявно предполагает, что не нужно вредить человечеству. Данная история вредит (нужно было распознать). Читайте классику.
0 +0−0Andrey Nikitchuk05:54:21
08/05/2018
0 +0−0nonbaklan00:56:33
08/05/2018
Нарушены базовые принципы роботостроения
1) Робот не может причинить вред человеку.

Если закладывали возможность игнорирование «препятствия», то должно быть условие,
что существует абсолютная уверенность, что препятствием является не человек.
Этого, похоже, не было сделано в программе.

Короче, автомобиль должен управляться человеком. Нет уверенности, что робот достоверно распознаёт человека и не причинит ему вреда по главному принципу роботостроения.
Почему базовые и почему не может? Вовсе не обязательно исполнять эти законы.
1 2+1
Самые
^^^Наверх^^^Обратная связь