Мы достигли того момента, когда человек=цивилизация. Не будет автоматического уничтожения человечества. Когда будут созданы такие системы, методы защиты тоже будут на высочайшем уровне. Посмотрите на любой современный бытовой прибор - он защищен от дурака. Такая же защита будет и в тех автоматических бессознательных системах, о которых Вы говорите
Нет механизма, заставляющего людей встраивать эту самую защиту. Поэтому этим в погоне за прибылью/местом на рынке будут пренебрегать.