Просмотр новости
Найдите то, что Вас интересует
Спутники
РН
SpaceX
Роскосмос
NASA
СпутникиРНSpaceXРоскосмосNASAСтрахи сингулярности: ИИ уничтожит человечество?
Начнём с простого вопроса: можно ли в принципе уничтожить человечество? Могут ли это сделать сами люди? В принципе, да — но это либо очень долго, либо очень сложно.
Можно, например, снизить рождаемость и подождать несколько тысяч лет, пока человечество само вымрет. Но такие долгие сценарии обессмысливают сингулярность и страхи перед ней. Ведь сингулярность — это то, что произойдёт очень быстро, в течении нескольких лет, и очень быстро вызовет значимые последствия.
Есть способы уничтожить человечество довольно быстро. Но все они сложные и требуют высокотехнологичных разработок. Например:
1. Взрыв всех ядерных арсеналов, как мы уже писали, жизнь на Земле не уничтожит — эффект ядерной зимы слабоват. Но, если увеличить количество ядерного оружия на порядок — шанс уже есть.
2. А можно взорвать множество не обычных термоядерных, а кобальтовых бомб. Радиоактивное заражение уничтожит всё живое на поверхности Земли.
3. Найти достаточно большой астероид — радиусом несколько десятков километров — и скорректировать его траекторию ударами зондов, чтобы он полетел к Земле.
4. Разработать вирус с очень высокой заражаемостью, 100%-ной смертностью и инкубационным периодом в несколько лет. Когда станет ясно, что началась эпидемия, почти все люди на Земле уже будут заражены.
К счастью, все эти способы требуют кучи денег и технологий, что недоступно отдельному психопату. Только скоординированным усилиям крупных корпораций или государств. Причём корпорациям не дают ядерного, ракетного или биологического оружия — оно находится под контролем государств. А тут уже включаются механизмы общественного контроля, пока, слава богу, более-менее работающие.
Но ИИ сможет помочь во всех этих разработках. Пока что военное применение ИИ, судя по войне США с Ираном, выглядит слабеньким. Но нейросети быстро совершенствуются и скоро смогут создавать очень эффективные и опасные технологии.
Поэтому пора бы уже признать достаточно сильный ИИ потенциальным оружием массового поражения и запретить частным корпорациям владеть им, переведя под контроль государств (а у очень сильного ИИ и серверы очень мощные — собрать его в гараже не получится).
Но страхи перед сингулярностью подразумевают нечто иное: что ИИ сам, по своей воле уничтожит человечество. Возможно ли это?
(продолжение следует)