Станет ли искусственный интеллект (ИИ) новой атомной бомбой?

Даже те, кто мало разбирается в сфере искусственного интеллекта, постепенно осознают, что ИИ будет играть ключевую роль в принятии самых разнообразных решений, коммерческих, государственных и военных. На полях сражений практически все будущие системы вооружения будут иметь возможности ИИ, например, для синхронизации роев беспилотников и сверхбыстрого реагирования на приближающиеся ракеты.

Искусственный интеллект и стратегические решения

Генри Киссинджер, в своей новой книге, написанной в соавторстве с опытными государственными деятелями Эриком Шмидтом и Крейгом Манди, утверждает, что «невосприимчивый к страху и благосклонности, ИИ открывает новые возможности объективности для принятия стратегических решений». Киссинджер и его коллеги полагают, что машины смогут вести себя более рационально, а значит, и лучше, чем находящиеся под давлением сиюминутных обстоятельств правительства и национальные лидеры.

Все это заставляет серьезно задуматься о будущем человечества. Когда даже избранные правительства не всегда способны сделать правильный выбор в сложном переплетении геополитических интересов и противоречий, идея машин, обладающих властью узурпировать принятие решений, может оказаться еще более опасной.

Новая эпоха чат-ботов

Новая эпоха геополитики определяется растущей мощью чат-ботов, которая позволяет значительно влиять на формирование политического мнения, транслируя поток пропаганды и еще больше отравляя общественный дискурс, как это уже делают через социальные сети многие иностранные СМИ.

Учитывая, что каждый день мы видим, как выходят из строя компьютерные системы авиакомпаний, а правительственные банки данных взламываются, кажется ужасным представить себе будущее, в котором системный сбой сможет, например, запустить ядерную ракету. И у нас есть все основания не доверять «экспертам», которые пытаются убедить нас, что ИИ никогда не сможет это сделать.

Что бы сделал с ИИ доктор Стрейнджлав?

Многие, вероятно, смотрели превосходный, хотя и страшноватый, сатирический фильм Стэнли Кубрика 1964 года «Доктор Стрейнджлав», в котором безумный американский генерал направляет стратегические бомбардировщики против Советского Союза, а президент США обнаруживает, что русские создали машину Судного дня, которая автоматически запустит массированный ядерный удар в случае американского нападения. Остальное, как говорится, не трудно себе представить.

Через шесть десятилетий после выхода этого фильма мы все также вынуждены полагаться на то, что человечество сохранит достаточное чувство самосохранения, чтобы не создавать автономные системы, способные уничтожить всю планету.

Еще большие опасения вызывает то, что лидеры, принимающие решения могут сами не разбираться в тонкостях технологий, как это было уже не раз в новейшей истории. Примером является ответ Уинстона Черчилля, к которому в августе 1941 года обратился его главный научный советник и попросил разрешения провести исследование ядерного деления с конечной целью создать бомбу. Черчилль ответил, что не видит необходимости в более мощном оружии, когда уже имеющиеся средства уничтожения кажутся вполне адекватными: «Лично я вполне доволен существующими взрывчатыми веществами». Будучи викторианским политиком, родившимся в 1874 году, Черчилль не мог постичь эпохальное значение ядерных реакций и по-настоящему понял значение этих исследований только после американских бомбардировок Хиросимы и Нагасаки в 1945 году.

Питер Селлерс в роли доктора Стрейнджлава в фильме Стэнли Кубрика 1964 года. Silver Screen Collection/Moviepix

Что дальше?

На самом деле, даже удивительно, как мы смогли пережить последние 79 лет, за которые мир только один раз — во время Карибского кризиса 1962 года — по-настоящему испугался перспективы межконтинентальной ядерной войны.

Сегодня мы знаем следующее: ИИ окажется таким же критически важным фактором, который изменит ход мировых событий, как и создание атомной бомбы. Авторы книги Киссинджера « Генезис: искусственный интеллект, надежда и человеческий дух» в промежутках между приступами оптимизма признают: «Если ИИ появится как практически независимый политический, дипломатический и военный набор сущностей, это заставит сменить вековой баланс сил на новый, неизведанный дисбаланс… Такой… порядок может привести к нарушению общественного согласия внутри социума и неконтролируемому разрастанию внешних конфликтов».

Пророки ИИ предсказывают, что война перестанет быть состязанием между соперничающими армиями, флотами или военно-воздушными силами, управляемыми людьми, а вместо этого станет борьбой между соперничающими технологиями. Мужество или его отсутствие перестанут быть решающим фактором. Навыки ведения боя потребуются не пилоту истребителя, а инженерам-программистам, которые задолго до начала военных действий программируют машины, задействованные в боевых условиях.

Манхэттенский проект по созданию первой атомной бомбы осуществлялся живыми людьми со своими слабостями и сомнениями. Вероятно, ученые, создавшие бомбу в результате трех лет титанического труда, говорили себе: «враг наступает, и у нас нет другого выбора». Сейчас точно также наступает ИИ, и это происходит во всех сферах и, особенно, в военной.

Заключение

Несмотря на эти грозные предсказания, следует отметить, что мы все-таки смогли прожить первые восемь десятилетий ядерной эры, которую многие из поколения наших родителей считали неизбежным концом. Будем надеяться, что и наши дети также смогут пройти через эру искусственного интеллекта, однако его роль в мировом устройстве, как и роль атомной бомбы, уже никогда нельзя будет сбросить со счетов.

По материалам колонки Макса Хастингса — обозревателя Bloomberg Opinion.

Источник: https://www.bloomberg.com/opinion/articles/2024-12-01/what-would-dr-strangelove-do-with-ai?srnd=homepage-europe