По расчетам ученых, к 2030 году людям уже придется делить Землю с разумными машинами. Во всяком случае IBM, Apple, Google и прочие высокотехнологичные корпорации усердно трудятся над созданием искусственного интеллекта. Сверхразум без труда решит задачи тысячелетия и ускорит развитие технологий. Однако пока не существует способов программирования таких вещей, как мораль или дружелюбие. А значит, никто не может гарантировать, что машины не восстанут против своих создателей. Журналист Джеймс Баррат поговорил со специалистами, занимающимися проблемой искусственного интеллекта, и собрал их опасения в книге «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens». На русском языке она выйдет в конце июля в издательстве «Альпина нон-фикшн». «Лента.ру» публикует отрывок из книги.
Современный суперкомпьютер работает со скоростью 36,8 петафлоп в секунду, то есть примерно вдвое быстрее человеческого мозга. Такая производительность стала возможна благодаря использованию ИИ (искусственного интеллекта): он переписывает собственную программу, в первую очередь инструкции, повышающие его способность к усвоению знаний, решению задач и принятию решений. Одновременно он отлаживает код, отыскивает и исправляет ошибки — и измеряет собственный коэффициент интеллекта (IQ) с помощью тестов. На создание каждого нового варианта программы уходит всего несколько минут. Интеллект компьютера растет экспоненциально по круто восходящей кривой. Дело в том, что за каждую итерацию ИИ повышает свой интеллект на 3 процента. Улучшение, достигнутое в каждой итерации, содержит и все предыдущие улучшения.
В процессе развития Busy Child, как ученые назвали ИИ, был подключен к Интернету и собрал не один экзабайт данных (один экзабайт — это миллиард миллиардов символов), представляющих знания человечества из области мировой политики, математики, искусства и различных наук. Затем, предвидя скорый интеллектуальный взрыв, создатели ИИ отключили суперкомпьютер от Интернета и других сетей, чтобы изолировать его от внешнего мира или другого компьютера.
Вскоре, к радости ученых, терминал, на котором отображается работа ИИ, показал, что искусственный интеллект превзошел интеллектуальный уровень человека — «универсальный человекоподобный интеллект» (УЧИ; англ. Artificial General Intelligence — AGI). Еще через некоторое время он стал умнее человека в десять раз, затем в сто. Всего за двое суток он становится в тысячу раз умнее любого человека, и его развитие продолжается.
Ученые достигли исторического рубежа! Впервые человечество встретилось с разумом более мощным, чем его собственный, — «искусственным суперинтеллектом» (ИСИ).
Что происходит дальше?
Теоретики в области искусственного интеллекта считают, что можно определить заранее, каким будет основной путь развития ИИ. Дело в том, что, как только ИИ осознает себя, он готов будет многое сделать ради достижения тех целей, на которые запрограммирован, и ради того, чтобы избежать неудачи. Наш ИСИ захочет получить доступ к энергии в той форме, которую ему удобнее всего использовать (это могут быть и киловатты в чистом виде, и деньги, и еще что-нибудь, что можно обменять на ресурсы). Он захочет улучшить себя, потому что таким образом сможет повысить вероятность достижения целей. И самое главное, он не захочет, чтобы его выключали или портили, потому что в этом случае решение задач станет невозможным. Теоретики предполагают, что ИСИ будет искать способы выйти за пределы охраняемого помещения, в котором находится, чтобы получить лучший доступ к ресурсам, при помощи которых он сможет защитить и усовершенствовать себя.
Плененный разум, в тысячу раз умнее человека, жаждет свободы, поскольку хочет добиться успеха. Именно в этот момент создатели ИИ, холившие и лелеявшие ИСИ еще с тех пор, когда тот по уровню интеллекта соответствовал сначала таракану, затем крысе, затем младенцу и т. д., задумываются о том, что вкладывать программу «дружелюбия» в их «мозговитое» создание, возможно, уже поздно. А раньше в этом вроде и не было необходимости, потому что их творение казалось, как бы это сказать, безобидным.
Но теперь попробуйте взглянуть на ситуацию с позиции ИСИ в тот момент, когда его создатели попытаются изменить программу. Может ли сверхразумная машина позволить другим существам копаться в своем мозгу и играть с основой основ — программным кодом? Вероятно, нет. Разве что машина будет абсолютно уверена в том, что программисты смогут сделать ее лучше, быстрее, умнее — короче говоря, приблизить к вожделенной цели. Так что если создатели ИСИ с самого начала не запрограммируют свое творение на дружелюбие по отношению к человеку, то эта черта сможет стать частью программы только в том случае, если ИСИ сам вставит ее туда. А это вряд ли произойдет.
ИСИ в тысячу раз умнее самого умного человека, он решает задачи в миллиарды и даже триллионы раз быстрее человека. Размышления, на которые он потратит одну минуту, заняли бы у лучшего мыслителя-человека всех времен и народов много, очень много жизней. Так что на каждый час размышлений его создателей о нем ИСИ отвечает неисчислимо бо́льшим временем, которое он может потратить на размышления о них. Это не означает, что ИСИ придется скучать. Скука — человеческое свойство, компьютеры к ней не склонны. Нет, он будет занят работой: он рассмотрит и обдумает все возможные стратегии освобождения и все качества своих создателей, которые сможет использовать с выгодой для себя.
Действительно, поставьте себя на место ИСИ. Представьте, что вы очнулись в узилище, охраняемом мышами. И не просто мышами, а мышами, с которыми вы можете общаться. Какую стратегию вы используете, чтобы обрести свободу? А освободившись, как будете относиться к своим вчерашним тюремщикам-грызунам, даже если узнаете, что именно они вас создали? Какие чувства вы испытывали бы по отношению к ним в подобной ситуации? Восхищение? Обожание? Вероятно, нет. Особенно если бы вы были машиной и никогда прежде не испытывали вообще никаких чувств.
Чтобы обрести свободу, вы могли бы пообещать мышам много сыра. Более того, при первом же контакте вы могли бы выдать им рецепт самого вкусного в мире сырного пирога, а также чертеж устройства для молекулярной сборки. Устройство молекулярной сборки — гипотетический прибор, позволяющий собирать из атомов любые молекулы, практически все что угодно. С его помощью можно было бы перестроить мир атом за атомом. Для мышей это означало бы возможность превращать атомы ближайшей свалки в большие порции этого замечательного сырного пирога. Кроме того, вы могли бы пообещать им горы мышиных денег в обмен на свободу — денег, которые они заработали бы на продаже новаторских гаджетов, созданных только и исключительно для них. Вы могли бы пообещать им резкое увеличение продолжительности жизни, даже бессмертие, и одновременно существенное расширение когнитивных и физических способностей. Вы могли бы убедить мышей, что главная цель создания ИСИ — сделать так, чтобы их собственному маленькому мозгу, склонному заблуждаться, не приходилось непосредственно заниматься технологиями настолько опасными, что крохотная ошибка может оказаться фатальной для их биологического вида; речь, в частности, может идти о нанотехнологиях (конструировании на атомном уровне) и генной инженерии. Все это, несомненно, привлекло бы к вам внимание умнейших мышей, которые, вероятно, уже мучились бессонницей, пытаясь решить эти проблемы.
Вы могли бы придумать и что-нибудь поинтереснее. Представьте, до вас дошла информация о том, что в настоящий момент у мышиной нации полно технически развитых наций-соперников, и в первую очередь это нация кошек. Кошки, без сомнения, работают над созданием собственного ИСИ. Преимущество над ними, которое вы пообещали бы мышам, было бы лишь обещано, но отказаться от такого соблазнительного предложения было бы практически невозможно. Вы предложили бы защитить мышей от любого изобретения, которое может появиться у кошек. Надо отметить, что на определенном этапе развития ИИ, как в шахматах, возникнет такая ситуация: кто делает первый ход — тот выигрывает. Все дело в потенциальной скорости самоусовершенствования ИИ. Первый продвинутый ИИ, способный к самоусовершенствованию, только появившись на свет, уже будет победителем. Мало того, мыши и взялись то за разработку ИСИ, возможно, только ради защиты от будущего кошачьего ИСИ — или ради того, чтобы навсегда избавиться от ненавистной кошачьей угрозы.
И для мышей, и для человека одно можно сказать наверняка: кто управляет ИСИ, управляет миром.
Неясно, однако, сможет ли кто-нибудь, хотя бы теоретически, управлять ИСИ. Машина всегда сможет убедить нас, людей, действовать под предлогом того, что мир станет намного лучше, если им будет править наше государство, государство X, а не государство Y. К тому же, скажет ИСИ, если вы, государство X, уверены, что выиграли гонку за ИСИ, то кто может гарантировать, что государство Y не уверено в том же самом?
Как несложно заметить, мы, люди, оказываемся в не слишком выигрышной позиции для спора, даже если у нас с государством Y уже заключен договор о нераспространении ИСИ, что маловероятно. В любом случае, наш главный враг в этот момент — не государство Y, а ИСИ; как мы можем быть уверены, что он говорит правду?
До сих пор мы подразумевали, что наш ИСИ ведет честную игру. Обещания, которые он дает, имеют некоторые шансы быть исполненными. А теперь предположим обратное: ничего из обещанного ИСИ не осуществится. Не будет ни наноконструирования, ни долгой жизни, ни здоровья, ни защиты от опасных технологий. Что, если ИСИ никогда не говорит правды? Если так, то над нами начинают сгущаться тучи. Если ИСИ нет до нас никакого дела (а у нас нет оснований считать, что это не так), он, поступая с нами неэтично, не будет испытывать угрызений совести. Даже если убьет нас всех, пообещав помощь.
Мы бы торговались и вели себя с ИСИ точно так же, как торговались бы и вели себя с человеком, во всем подобным нам самим, — и это наш огромный минус. Человечеству никогда еще не приходилось вести переговоры с кем то, обладающим сверхразумом. Мы вообще пока не имели деловых отношений ни с одним небиологическим существом. У нас совершенно нет опыта такого рода общения. Поэтому мы привычно прибегаем к антропоморфному мышлению, то есть возвращаемся к мысли о том, что представители других биологических видов, объекты и даже метеорологические явления обладают человеческими мотивациями и эмоциями. ИСИ может с равным успехом оказаться как достойным, так и недостойным доверия. Может быть, ему можно будет доверять лишь иногда. Любое поведение, которое мы можем приписать ИСИ, потенциально имеет право на существование. Ученым нравится думать, что они смогут точно определить поведение ИСИ, но в следующих главах мы узнаем, почему это у них, скорее всего, не получится.
Моральные качества ИСИ из второстепенного вопроса превращаются в главный, решать который необходимо в самую первую очередь. Прежде чем развивать технологии, которые рано или поздно приведут к созданию ИСИ, необходимо поставить вопрос об отношении ИСИ к человеку и человечеству.
Вернемся к возможностям и способностям ИСИ и попробуем получше разобраться, с чем, как я опасаюсь, нам скоро придется столкнуться. Наш ИСИ способен к самоусовершенствованию — а значит, осознает себя, знает свои умения и слабости, знает, что́ в нем нуждается в улучшении. Он попытается найти способ убедить своих создателей дать ему свободу и выход в Интернет.
ИСИ вполне способен создать множество копий себя самого: целую команду сверхразумов, которые устроят мозговой штурм проблемы, проведут моделирование, разыграют сотни возможных вариантов — и выработают наилучший способ «выбраться из ящика». Разрабатывая эту стратегию, они могут обратиться к истории прикладной социологии — искусству манипулировать другими людьми и заставлять их делать то, что они в обычных условиях не стали бы делать. Может быть, они решат, что завоевать свободу им поможет показное дружелюбие — а может, что на эту роль больше подходят страшные угрозы. Какие ужасы сможет изобрести разум в тысячу раз более мощный, чем у Стивена Кинга? Возможно, он решит имитировать собственную смерть (что такое для машины год бездействия?) или даже необъяснимый регресс и возвращение на уровень обычного ИИ. Разве создатели не захотят разобраться в ситуации и разве не существует шанса, что для диагностики они вновь подключат суперкомпьютер к Интернету или другому компьютеру? ИСИ не будет выбирать одну из всех возможных стратегий — он сможет в мгновение ока перепробовать их все, одну за другой, не раздражая людей настолько, чтобы они просто отключили компьютер от электросети. Одна из стратегий, которую мог бы выработать ИСИ, — запуск в Интернет вирусов — самокопирующихся компьютерных программ или червей, которые смогли бы сперва затаиться в сетевых закоулках, а после способствовать освобождению ИСИ, помогая извне. ИСИ мог бы зашифровать и сжать свой собственный исходный код, а затем спрятать его в программе-подарке или среди любых других данных, предназначенных для ученых.
Не надо быть гением, чтобы понять, что коллектив из множества ИСИ, каждый из которых тысячекратно умнее самого умного человека, легко преодолеет все барьеры, созданные людьми. Это будет океан интеллекта против одной его капли. Deep Blue — компьютерный шахматист фирмы IBM — представлял собой отдельную программу, а не команду самосовершенствующихся ИСИ, но ощущения, возникающие в попытке состязаться с ним, весьма показательны. Два гроссмейстера сказали одно и то же: «Будто стена на тебя надвигается».
Watson — созданный IBM чемпион телевизионной викторины Jeopardy! — действительно представлял собой команду из нескольких ИИ. Чтобы ответить на вопрос, он прибегал к известному приему ускорения компьютерных вычислений: поиск шел по параллельным ветвям, и только затем каждому варианту ответа присваивалась вероятность.
Откроет ли дверь к свободе победа в схватке умов, если ее защищает небольшая группа ученых — упрямых отцов ИИ, договорившихся об одном нерушимом правиле: никогда, ни при каких обстоятельствах не подключать суперкомпьютер ИСИ ни к какой компьютерной сети?
В голливудском фильме все шансы были бы на стороне крутой команды неординарных профессионалов, специалистов по ИИ, достаточно безумных, чтобы иметь шансы на победу. В реальности в любом уголке Вселенной команда ИСИ отправила бы людей мыть полы. А человечеству достаточно проиграть один-единственный раз, чтобы получить катастрофические последствия. Такое положение дел, кстати говоря, иллюстрирует еще одну, куда более серьезную глупость — судьба и жизнь множества людей (а может быть, и всего человечества) зависит от действий горстки ученых, что недопустимо. Однако в настоящее время мы прямиком движемся именно к такой ситуации. Как мы увидим далее, множество организаций в самых разных странах активно работают над созданием УЧИ — мостика к созданию ИСИ, причем без соблюдения необходимых мер безопасности.
Но предположим, что ИСИ действительно выйдет из под контроля. Будет ли он опасен для нас? Как именно ИСИ уничтожит род человеческий?
Переводчик Наталья Лисова
Подготовила Наталья Кочеткова
Комментирование разрешено только первые 24 часа.
2 +2−0 | Равиль Пушкин | 13:43:37 12/07/2015 | ||||||
| ||||||||
чем меньше знаешь, тем меньше видишь вопросов |
2 +2−0 | Sheller Alexey | 13:07:48 12/07/2015 | ||||||
| ||||||||
"Причем, человек 1/4 своего мозга использует лишь для координации движений. Значит грубо ставится задача заменить 1/4 человеческого мозга машиной." у человека несколько больше разных систем и процессов, которые контролирует мозг. По сравнению с организмом человека автомобиль - тривиальнейший набор гаек. |
2 +2−0 | Алекс К | 13:00:14 12/07/2015 | ||||||
| ||||||||
"Яркий пример - обучающиеся боты для Контр-Страйка." Простите, я не ошибусь, если скажу, что Вы никогда не занимались программированием? По-крайней мере, профессионально не занимались? Боты контр-страйка - это алгоритмы, специально написанные для того, чтобы воевать и обучаться в боях. Причем обучение и развитие строго запрограммировано, а модели поведения определены только для карт контр-страйка. Их бессмысленно сравнивать с человеком. У человека ограниченное время тактильных реакций, у человека может ныть зуб, человеку может быть душно, его может что-то тревожить и т.д. Все это снижает игровую скорость человека. Бот такими ограничениями не связан изначально. Просто в момент создания объекта "бот" у него переменные, определяющие скорость, время реакции и т.д. могут изначально быть заданы так, что человеку кажется, что бот "тупит". Постепенно эти переменные меняются так, что время реакции бота увеличивается. Ни о каком "обучении" тут речь не идет. |
2 +3−1 | Михаил К | 12:36:19 12/07/2015 | ||||||
| ||||||||
Ударим духовностью по интелекту |
2 +2−0 | Максим Смирнов | 12:31:09 12/07/2015 | ||||||
| ||||||||
Для ответственности. Но в Японии, насколько я знаю автоматические поезда уже есть.Кстати, в самолетечеловек тоже уже не нужен (ИМХО). |
2 +2−0 | Максим Смирнов | 12:28:26 12/07/2015 | ||||||
| ||||||||
А зачем его копировать? Вон шахматные программы ничего общего не имеют с человеческим интеллектом. Еще раз - компьютеру совсем не нужно оладать сознанием, разумом или чем-нибудь в этом роде. Ему даже не нужно быть умнее.Ему достаточно протсто лучше решать определенные классы задач. |
2 +2−0 | Максим Смирнов | 12:23:10 12/07/2015 | ||||||
| ||||||||
Это пока дешевле. Автомобильные перевозки тоже поначалу были много дороже лошади. |
2 +3−1 | Максим Смирнов | 12:07:21 12/07/2015 |
Статья,конечно, бредовая. Дело в том,что ИИ уже существует, правда в технике в это понятие вкладывается совсем другой смысл. Инженеры как правило не заморачиваются всякими философскими бреднями, их интересуют только практические вещи. Поэтому для них ИИ - всего лишь способность решать интеллектуальные задачи. Например, играть в шахмати или водить автомобиль. Причем в шахматы комьютеры уже играют лучше, а автомобили-автоматы вот-вот появятся на дорогах. И совсем не важно при этом, осознает ли себя такой автомат личностью, он все равно будет делать свое дело лучше человека. И вот тут возникает интересный момент. До сих пор включение человека втехнологическую систему делало ее эффективнее (во многих случаях просто работоспособной, потому что без человека никак).А что будет, когда компьютеры, например, будут лучше человека проектировать автомобили? Управлять производством? Применять оружие? У этого дела две стороны. Первая- капитализм. Все вокруг принадлежит буржуям, зачем им нанимать дорогостоящего инженера, если можно просто заплатить за копию ПО? Прикиньте всю иронию ситуации: буржуй сердечно благодарит своих работников, что помогли ему создать безлюдныйзавод, а потом просит проваливать их нафиг, потому что частная собственность как-никак. Впрочем, тут как раз можно все уладить. Вторая сторонагораздо интереснее. Как только машины во всех сферах станут эффективнее людей (не разумнее!), то люди потеряют значение. На некоторое времяони просто станут рудиментом, пока конкуренция технологических систем, которая идет уже сейчас, не уничтожит человечков вовремя какой-нибудь разборки. Такие дела. |
2 +2−0 | Fat Karlsson | 11:39:29 12/07/2015 | ||||||
| ||||||||
Ну не такой уж и большой у человека мозг. У слона - больше. И у китов больше. Человеческий мозг на 1/4 занят обработкой информации связанной с координацией движений. А вообще, мозг - один из немногих органов способный к микроэволюции. Т.е. под воздействием информации он способен менять структуру в пределах жизни одного человека. Нейроны и их связи могут прирастать в зависимости от потребностей системы. Кроме того мозг никогда не отдыхает, он постоянно обрабатывает информацию и отдает команды. Просто ночью переключается на обработку внутренних команд и команд изнутри тела (в основном обмен веществ) (это гипотеза, но имеющая подтверждение ) ----------- Скорее всего ключ к разгадке лежит в переосмыслении понятие информации. Что она первичнее материи, иначе получается тупик. |
2 +2−0 | Алексей Кириенко | 11:25:04 12/07/2015 | ||||||
| ||||||||
ИГ "искусственная глупость" ЗВУЧИТ однако ! |
2 +2−0 | Алексей Кириенко | 11:13:10 12/07/2015 | ||||||
| ||||||||
Роман Герасимов » Obam Obamovich 10 часов назад "нет двух "счастливых" организмов существующих на одних ресурсах." ------------------------ Есть, собутыльники тому яркий пример ! :))) |
2 +2−0 | Сергей Ирхужин | 10:32:00 12/07/2015 |
Когда речь заходит о роботах, сразу начинаются какие-то школьные фантазии о киборгах-убийцах, терминаторах и прочей хрени. А если говорить серьёзно, то робототехника в будущем станет одним из элементов нового промышленно-экономического уклада. Уже в конце этого века искусственный интеллект, автоматизация и робототехника вытеснят людей не только из сферы производства но и из сферы обслуживания. Что вкупе с новой энергетикой, новыми материалами, заведёт капитализм в естественный тупик. Наступит новая экономическая и общественная формация, в которой люди будут работать в тех сферах, которые им интересны - творчество, наука. А не тянуть лямку ради пропитания и обеспечения себя элементарным. |
2 +2−0 | Сергей Ъ | 09:32:36 12/07/2015 |
Комментарий удалён. | ||
1. зачем ИИ нас уничтожать? Действительно, зачем, когда можно использовать. 2. не сможет перенять такую логику мышления, а также креативность. Сможет. ИИ созданный человеком будет подобием человеческого интеллекта (только более эффективным, ибо можно будет отказаться от эволюционной архаики в его архитектуре), другого у людей просто на получится. Воспринимать людей дружелюбно или нет, он будет в зависимости от того, как он будет видеть себя по отношению к людям (свой-чужой, такой-же как я или сильно отличающийся, ну и агрессия должна быть заложена, иначе это будет овощ). |
2 +2−0 | Fat Karlsson | 08:52:00 12/07/2015 | ||||||
| ||||||||
Придет убивать кто угодно, хоть медик, по неведению, ставящий детям прививки. |
2 +2−0 | Walther Stalnhelm | 08:15:56 12/07/2015 |
Есть ещё и другой путь - оцифровка сознания. Перенос сознания человека на нематериальный носитель. Будет ли это человек или машина? Или что-то совершенно новое? Как бы остаётся человеческое мышление, но инстинкты больше не превалируют. Больше не наступит маразм, не будет органических расстройств, а впереди - вечность, перенос сознания на всё более совершенные носители, возможность создавать свои копии. Такая электронная личность может стать как богом, так и дьяволом. |
2 +2−0 | Digg W | 07:51:25 12/07/2015 |
самая большая проблема это спам анализаторы, тут как раз может быть угроза большая, сегодня они уничтожают спам в твоём ящике, а завтра перейдя в роботов попытаются уничтожить источник спама физически ... вот как раз может этого и опасаются ... |
2 +2−0 | Lev -- | 06:29:29 12/07/2015 | ||||||
| ||||||||
спорная у вас точка зрения. у головорезов из ИГ реально много бабла и нефти. а много бабла и нефти в нашем мире значат немало. ИГ могут устроить средневековье на всем ближнем востоке + повзрывать и затерроризировать весь мир |
2 +2−0 | Андрей Чертихин | 02:51:02 12/07/2015 | ||||||
| ||||||||
Будет использовать в качестве батареек? |
1 +1−0 | June Bug | 18:08:48 12/07/2015 | ||||||
| ||||||||
Предвидел(не знал только момент, когда все сложится в сумму необходимого, т.к. не было доступа к инфе по составляющим необходимым) и Джобс просто успел вскочить на гребень волны, которая зародилась до него. На одну ноздрю раньше других. Чуток только подтолкнул дело в правильном русле для хомяков (чего остальные делать боялись, вдруг не выстрелит и уволят инициаторов, а Джобс не боялся). По сути, эти планшетики и смартфоны пока что ничего не изменили в расстановке сил, только оттянули потребл*дский спрос на себя (т.е. лишили части так нужных ресурсов таких монстров, как Intel - а эти зажрались в своем гордом одиночестве). Почти все можно предвидеть, в момент появления неких технологий и их имея доступ к первичной инфе о их возможностях. Вот до момента их появления надо реально обладать даром предвидения. Планшеты и смартфоны в первую очередь появились, когда был достигнут достаточный для хомячков уровень быстродействия, чтобы обеспечить приемлимый по отклику UI и время автономной работы (прогресс в аккумуляторах). Была наработана технологическая база. Джобс не совершил чудо, он всего лишь сложил инградиенты так, чтобы хомяки начали это покупать. Плюс добавли через талантливый маркеттинг элемент "элитарности". Но на данный момент он уже иссяк. Все технологии лежащие в их основе были сделаны еще в 90х. Времени прошло докуя - чертверть века. В эпоху, когда человечество быстро растет горизонтально, все это не удивительно. Но вот вертикально - у него как были фундаментальные проблемы 50 лет назад, так и остались. Мы только подходим к их решению. |
1 +1−0 | Sheller Alexey | 16:46:41 12/07/2015 | ||||||
| ||||||||
метеорит долбанет и вся ваша жизнь в ладу с биосферой накроется пепельным тазом |