Британский профессор предупредил об опасности искусственного интеллекта
08:13 14/05/2023 Статьи
Фото: Виталий Белоусов / РИА Новости
Британский ученый Стюарт Рассел заявил, что появление искусственного интеллекта, способного решать любые логические задачи, грозит человечеству катастрофой. По его словам, бесконтрольные разработки в этой области привели к тому, что человечество добилось прогресса, которого не ожидало.
| „ | реакция прекратите разгонять здесь панику от слабоумных дикарей... не верите посмотрите в сети карту посещения НЛО Земли ... это в основном англоязычные территории ... этот сбесившийся, потерявший цивилизованность народец, живёт в паранойи ...постоянном страхе комплекса неполноценности... комплекса варвара... не ретранслирующий страхи этих злобных недоумков на наш народ... | “ |
Появление искусственного интеллекта (ИИ), способного решать любые логические задачи, грозит человечеству катастрофой, рассказал в интервью The Times британский ученый, почетный профессор Калифорнийского университета в Беркли Стюарт Рассел.
По его словам, бесконтрольные разработки в этой области привели к тому, что человечество добилось прогресса, которого не ожидало. По мнению Рассела, люди изначально не задумывались, для чего нужен будет этот интеллект. Он считает, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять и станут опасными.
Ученый предупредил, что люди вероятно не смогут сохранить власть «над сущностями, которые сильнее» их. Он призвал прекратить исследования в этой области. «Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании», — предупредил он о риске гибели человечества.
По мнению специалиста, если учить ИИ человеческому поведению, то он сможет ставить человеческие цели. «А человеческие цели включают в себя самые разные вещи. Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели», — добавил он.
Ранее ученые из Мичиганского университета выявили, что новая система искусственного интеллекта (ИИ) позволяет роботам проводить до 10 тысяч автономных научных экспериментов в день.
Комментирование разрешено только первые 24 часа.
Комментарии(21):
| 4 +0−0 | Юрий Железняк | 10:29:55 14/05/2023 |
реакция прекратите разгонять здесь панику от слабоумных дикарей... не верите посмотрите в сети карту посещения НЛО Земли ... это в основном англоязычные территории ... этот сбесившийся, потерявший цивилизованность народец, живёт в паранойи ...постоянном страхе комплекса неполноценности... комплекса варвара... не ретранслирующий страхи этих злобных недоумков на наш народ... | ||
| 3 +0−0 | №-11025845 | 10:58:28 14/05/2023 | ||||||
| ||||||||
Кожаные мешки как-то же обходятся без разума убивая друг -друга повинуясь одним лишь инстинктам. ))) | ||||||||
| 3 +0−0 | dopogoret | 08:59:35 14/05/2023 | ||||||
| ||||||||
Нет, вы пишете глупость. Тоже не понимаете что такое ИИ-)) Все это глупые пугалки людей, крайне далеких от технологий вцелом. Пусть даже это и якобы от профессора исходит. Максимум чем опасен ИИ в его бесконтрольном применении-это то, что при возлагании на него слишком большого числа задач и надежды, то он просто может сильно напортачить и испортить жизнь людям, придется много исправлять. Не очень полагайтесь на ИИ. Ничего сильно полезнее обычного, но чуть более улучшенного поисковика такие штуковины не дают, и не дадут. Максимум-чуть большая плотность выдачи информации, и только. Все равно надо эти данные правильным образом систематизировать, как и при работе с обычными энциклопедиями. Да и мозги всегда должны работать, и человеческие мозги в любом случае работают любого ИИ, действующего в контексте условностей которые заданы человеком алгоритмами, и всегда так будет. Хотя польза от его использования есть и она очевидна, в своей нише. | ||||||||
| 2 +0−0 | Андроид Воробей | 12:59:09 14/05/2023 | ||||||
| ||||||||
Возможно беспокоятся его создатели (которые полагают, что создадут ИИ), т.е. он будет отказываться воевать на их стороне)) | ||||||||
| 2 +0−0 | Игорь Филатов | 10:46:45 14/05/2023 |
Гуманитарий? Прогресс не остановить, современные нейросетки не обладают разумом, это все те же программы, только на основе обучения, а не алгоритмов и математики | ||
| 2 +0−0 | And Iv | 10:03:42 14/05/2023 |
Комментарий удалён. | ||
Иноагент теперь? | ||
| 2 +0−0 | Igor Loshkov | 09:29:19 14/05/2023 |
С точки зрения математика все существующие ИИ - это есть обработка большого массива информации корреляционным методом. Поэтому ИИ в нулевой степени обладает интеллектом. Может быть когда нибудь в будущем и смогут создать ИИ, но похоже это будет ещё не скоро. | ||
| 2 +0−0 | dopogoret | 08:58:28 14/05/2023 |
Все это глупые пугалки людей, крайне далеких от технологий вцелом. Пусть даже это и якобы от профессора исходит. Максимум чем опасен ИИ в его бесконтрольном применении-это то, что при возлагании на него слишком большого числа задач и надежды, то он просто может сильно напортачить и испортить жизнь людям, придется много исправлять. Не очень полагайтесь на ИИ. Ничего сильно полезнее обычного, но чуть более улучшенного поисковика такие штуковины не дают, и не дадут. Максимум-чуть большая плотность выдачи информации, и только. Все равно надо эти данные правильным образом систематизировать, как и при работе с обычными энциклопедиями. Да и мозги всегда должны работать, и человеческие мозги в любом случае работают любого ИИ, действующего в контексте условностей которые заданы человеком алгоритмами, и всегда так будет. Хотя польза от его использования есть и она очевидна, в своей нише. | ||
| 1 +0−0 | Андроид Воробей | 12:48:38 14/05/2023 |
Для того, чтобы опасаться ИИ - его нужно создать, а то, что есть - сложные алгоритмы из вопрос/ответ, а информацию для ответов берёт только оттуда, откуда ему разрешают, а ответы даёт только те, которые разрешают. ИИ без сознания - это не ИИ, а тот что есть - тоже малополезен, т.к. он жёстко цензурируется. По сути, нынешний ИИ - это сложный поисковик, а тот, который создаёт графику - некий симбиоз поисковика и графических технологий. | ||
| 1 +0−0 | №-11025845 | 10:58:59 14/05/2023 |
Вряд-ли человечеству грозит гибель по мере развития технологий в области ИИ. ИИ логичен, он априори не может быть экзестенционально враждебен энергетически самой эффективной белковой форме жизни. | ||
| 1 +0−0 | Constantin zzz | 10:00:21 14/05/2023 |
Комментарий удалён. | ||
есть различные нейросетки для различных задач, разрабатываемые ИИ для военных задач сильно отличаются от ваших ожиданий | ||
| 1 +0−0 | Jesus Crispe | 09:32:47 14/05/2023 | ||||||
| ||||||||
Ну да=) Сегодня тоже ядерное оружие управляется "Электронно-дистанционно" Искусственный интеллект сможет иметь доступ к нему спустя какое то время.И в отличии от человека у машины очко не дрогнет пустить пару сотен ядерных ракет | ||||||||
| 1 +0−0 | dopogoret | 09:00:27 14/05/2023 | ||||||
| ||||||||
Не очень полагайтесь на ИИ. Ничего сильно полезнее обычного, но чуть более улучшенного поисковика такие штуковины не дают, и не дадут. Максимум-чуть большая плотность выдачи информации, и только. Все равно надо эти данные правильным образом систематизировать, как и при работе с обычными энциклопедиями. Да и мозги всегда должны работать, и человеческие мозги в любом случае работают любого ИИ, действующего в контексте условностей которые заданы человеком алгоритмами, и всегда так будет. Хотя польза от его использования есть и она очевидна, в своей нише. | ||||||||
| 1 +0−0 | Riva Criva | 08:23:47 14/05/2023 |
Интеллектом штоли задавят наше бедное человечество? Пока не передали ИИ контроль над ядерными боеголовками, мы в порядке. Кнопку выкл на роутере человечество всегда сможет нажать, и не будет этого страшного ИИ. | ||
| 0 +0−0 | Андроид Воробей | 12:57:37 14/05/2023 | ||||||
| ||||||||
Это и есть алгоритмы вопрос/ответ, но более сложные, которые получают ответ из информации, которую им дают для анализа, анализируя который (по определённым алгоритмам) он "пресловутый ИИ" определяет правильный ответ. Сознания там нет, так что... "пресловутый ИИ" - не более чем более сложный поисковик, а который создаёт графику - симбиоз поисковика с графическими технологиями. Я вообще сомневаюсь, что усложняя алгоритмы - можно получить сознание) | ||||||||
| 0 +0−0 | And Iv | 09:57:12 14/05/2023 |
Комментарий удалён. | ||
Осталось только нажать на кнопку... | ||
| 0 +0−0 | Constantin zzz | 09:50:41 14/05/2023 |
это неизбежный процесс его не возможно остановить, желание человека использовать ИИ для победы над соперником пересилит все разумные доводы о его опасности и ИИ буджет применен для этих целей, а затем ИИ развернется против человечества | ||
| 0 +0−0 | Jesus Crispe | 09:36:02 14/05/2023 | ||||||
| ||||||||
И машины в отличии от человека смогут жить под действием радиации Для роботов это отличный способ стать господствующей расой на планете сделав Ядерный Апокалипсис уничтожив людей | ||||||||
| 0 +0−0 | John Gray | 09:07:44 14/05/2023 |
Пусть ИИ научится сперва менять батарейки в фонарике, вот апосля и погутарим. И потом: мораль человечества и мораль Западного общества - это не одно и то же.Запад вполне способен уничтожить человечество и без ИИ, чем он , собственно, всю дорогу и занят. | ||
| 0 +0−0 | work noncircus | 08:58:11 14/05/2023 | ||||||
| ||||||||
так, к тому и идём. гиперзвуковые ракеты требуют автоматического управления ПВО/ПРО и, таки, вынуждены будут отдать под контроль ИИ ПВО/ПРО, ибо человек физически не успевает нажать кнопку пуск, если подлётное время в единицах секунд. Последнее время я вообще стал сомневаться в разумности человечества, ибо как только появились гиперзвуковые ракеты, то БЕГОМ нужно договариваться о запрете и переходе к балансу безопасности. Как будто человечество поставило себе задачу доказать Богу, что человечество на Земле только мешается и потому ИИ сделает эту работу по дезинфекции? | ||||||||