AI Chatbot Nearly Starts War — Full Breakdown & Transcript

[00:03] был не персонаж из игры Sims. Это была моя пародия на чат-бота с искусственным интеллектом, который сочинял забавный фанфик для американских военных, что чуть не спровоцировало военную операцию против Китая. Судя по всему, эта весна выдалась

[00:18] против Китая. Судя по всему, эта весна выдалась о том, как военная операция США чуть не была проведена на основе ложной информации, распространенной с помощью искусственного интеллекта.

[00:35] Я только что узнала ужасающую историю, от которой у меня мурашки по коже. Только сейчас стало известно о том, насколько близко мы подошли к международному инциденту и мы подошли к международному инциденту и потенциальной войне с Китаем из-за

[00:49] огромного скопления ракушек здесь. Таким образом, чат-бота с искусственным интеллектом информацию о судовом манифесте китайского судна . По данным CNN,

[01:01] чат-бот, объединив информацию из открытых источников с секретными данными радиоэлектронной находились компоненты программы создания ядерного оружия. Это едва не привело к задержанию корабля военными, пока официальные лица не выяснили, что он был создан с помощью искусственного интеллекта.

[01:15] Но, судя по всему, они подняли корабли в воздух и подготовились прямо перед началом операции. Это, несомненно, стало бы международным инцидентом, потенциально способным спровоцировать войну между Америкой и Китаем. Но

[01:27] оказывается, вся информация, которую предоставил чат-бот с искусственным интеллектом, — это всего лишь галлюцинация, в которую G не поверит. Это было неправдой. Это была какая-то фальшивая чушь. Здесь куча чертового хрена, и из-

[01:43] за этого чуть не началась крупная военная операция. Но, к счастью, ничего плохого не случилось. Просто одна из тех невинных ромашек. Ничего страшного, ничего особенного. Из-за того, что страшного, ничего особенного. Из-за того, что

[01:58] и крик. Согласно источникам, полученным с помощью искусственного интеллекта ошибочные разведывательные данные, едва не спровоцировали войну. В американских военных весной этого года, утверждалось, что китайское судно на Ближнем Востоке

[02:12] программы создания ядерного оружия. Проблема в том, что разведывательный отчет , как выразился один источник, был полностью ложным. Этот инцидент подчеркивает стремление Пентагона к быстрой интеграции ИИ в свои планы.

[02:26] И слава Богу за это! Нам необходимо более широкое внедрение ИИ во все аспекты человеческого . Подумайте, насколько лучше стала наша жизнь. Здесь просто обычные гражданские лица, благодаря искусственному интеллекту. Знаете, цены резко падают. Всё

[02:40] отлично. Солнце и радуга. Какая же это чертова афера. Это невероятно. Так что, да, об ИИ — это не новая информация. В все более смелые попытки продвинуться туда еще глубже. И на этом

[02:56] неполадки. Они чуть не развязали войну между США и Китаем, основываясь на информации, которая, по сообщениям, является абсолютно ложной. Но я имею в Нам нужно продолжать двигаться на полной скорости, изо всех сил . Мы должны и дальше следить за тем, чтобы не

[03:08] было никаких ограничений, никаких приостановок программ для переанализа и просто нужно продолжать отрываться по полной. Ну и что, если в процессе разразится война из-за цена ведения бизнеса с искусственным интеллектом,

[03:22] Да, ребята, источники сообщили мне и нашей коллеге Кэти Бойс, что этот разведывательный доклад широко распространялся в американских вооруженных силах еще весной этого года, в разгар войны с Ираном, и сразу же вызвал

[03:34] тревогу, поскольку указывал на то, что китайское судно, находившееся на Ближнем Востоке, перевозило компоненты программы создания ядерного оружия. И поэтому американские военные, очевидно, очень резко отреагировали на это в тот момент, готовясь

[03:48] даже к потенциальному захвату китайского судна. Лишь когда операция вот-вот должна была начаться, официальные лица, углубившись в сам разведывательный отчет, обнаружили, что он был сгенерирован с

[04:00] помощью искусственного интеллекта, и что чат-бот, использованный аналитиком разведки, перевозило судно. Но не волнуйтесь, я уверен, что этому чат-боту с искусственным интеллектом хорошенько отчитали и хорошенько отшлёпали по щекам. На что ИИ,

[04:14] скорее всего, ответил: «Спасибо за возражение». Какая восхитительная картина здесь разворачивается! Мы чуть не провели серьёзную операцию, которая потенциально могла бы спровоцировать международный инцидент, войну, и выяснилось, что в этом

[04:27] инцидент, войну, и выяснилось, что в этом помог аналитик. помог аналитик. Для этого им помог чат-бот с искусственным интеллектом. О, отлично. Я так так активно используются военными, что теперь они могут

[04:40] генерировать эти ложные, чертовы отчеты, которые заставят военных начать и при этом нет никаких реальных указаний о том, как участие человека в процессе предотвратит жертвы среди гражданского населения или братоубийства. Это свидетельствует об общем отсутствии

[04:55] согласованности или единообразия в вооруженных силах в отношении использования ИИ или, откровенно говоря, в отношении того, какие инструменты или системы использует каждый отдельный вид вооруженных сил или каждое отдельное подразделение в тот или иной момент времени. И, конечно же, это вызывает опасения по поводу

[05:07] проверки разведывательной информации: если в составлении таких и почему они не проверяются тщательно, прежде чем на их основе будут предприняты какие-либо действия? На вопрос « почему» ответить очень легко: они должны быть самыми быстрыми. Это должно было произойти в мгновение ока

[05:21] . Будьте осторожны с ветром. В этом и заключается главная проблема в этой гонке искусственного интеллекта, которую мы наблюдаем. Поэтому наличие человека в процессе замедляет их работу. Присутствие ветеринара-человека замедляет их движение. Пусть ИИ сам для себя станет своего рода надзирателем. В нём нет

[05:36] ничего неправильного. Очевидно, что именно это и является движущей силой . Это потому, что американские военные хотят быть самыми быстрыми. И сам Пит Хегат открыто говорит о том, что его армия в первую очередь ориентирована на искусственный интеллект. Более того, CNN даже показывает этот фрагмент в следующий

[05:49] момент. Вот почему проверка кандидатов людьми не так уж и тщательна. Эта стратегия позволит проводить эксперименты, устранит бюрократические барьеры, сосредоточится на инвестициях и продемонстрирует необходимый подход к реализации,

[06:03] чтобы обеспечить наше лидерство в области военного ИИ и его дальнейшее доминирование в будущем. Короче говоря, мы выиграем эту гонку, став боевой силой, в первую очередь использующей искусственный интеллект,

[06:15] во всех областях. Это практически дословный монтаж научно-фантастического фильма, показывающий момент, когда человечество находится на грани вымирания, — один из поворотных моментов, приведших к гибели всего живого.

[06:27] поднятой грудью. Ага. Мне хочется услышать, что основное внимание уделяется инвестициям. Замечательно. Это всегда очень полезно. А ещё это позволит избавиться от, как он их называет, бюрократических барьеров. Хороший. Совершенно

[06:42] бесконтрольно, без надзора, без обрезания. Просто позвольте ИИ действовать бесконтрольно и управлять собой самостоятельно. Это не вызовет никаких проблем. Просто отпусти это. Никакой бюрократии. Больше нет даже намека на контроль или желания

[06:56] контролировать ситуацию. Похоже, они настолько сосредоточены на том, чтобы быть первыми, что готовы позволить искусственному интеллекту бесконтрольно распространяться. Мы видим столько ужасных вещей

[07:09] каждый божий день. Например, обнимающее лицо , о чем также упоминает CNN. Также появились недавние сообщения о том, что компания Anthropic запускает в эксплуатацию экспериментальную лабораторию, которая будет управляться с помощью искусственного интеллекта для проведения тестирования лекарств. Наверняка это

[07:23] не приведет ни к какому, знаете ли, боссу корпорации Umbrella или чему-то подобному. В данном случае это уже просто антигуманизм. Похоже, что у людей больше нет желания участвовать в этом процессе с использованием ИИ. Как и в случае с военными, вот, например,

[07:36] Пит Хегат с гордостью рассказывает о том, что мы — боевая сила, в первую очередь использующая искусственный интеллект . Любому человеку, у которого функционирует лобная доля мозга, должно быть совершенно очевидно, почему эта мысль ужасна.

[07:51] Во всех этих процессах необходимо участие людей. Кстати, если бы в проверке этих отчетов не участвовали люди , мы бы сейчас воевали с Китаем. Они бы начали эту военную операцию, основываясь на отчете, который был составлен с помощью чат-бота с искусственным интеллектом,

[08:03] и это было совершенно неверно. Если бы видите, уже сейчас можно понять, насколько важно для людей здесь находиться. Однако они вывести ИИ из-под контроля, полностью лишить его возможности управляться человеком и

[08:17] позволить ему делать всё, что ему вздумается. А знаете почему? Очевидно, вы знаете почему. Деньги. Это деньги. Это деньги. Как будто это единственный реальный мотиватор здесь. Ну, в этом нет ничего удивительного, потому что

[08:30] основные мотивы компаний, занимающихся искусственным интеллектом, — это стремление использовать кратчайшие пути для достижения доминирования на рынке, а не обеспечение безопасности, контролируемости или предотвращение возникновения других проблем. Как мы уже говорили в фильме, взаимодействие ИИ

[08:45] между вооруженными силами — это гонка на скорость: кто первым нажмет на курок, кто быстрее примет стратегические решения, что стимулирует страны к внедрению ИИ. А тот, кто выведет человека из этого замкнутого круга, кто сможет быстрее нажать на курок,

[08:59] выиграет следующую войну. Это означает, что мы все стремительно приближаемся к критической точке, когда ситуация становится неконтролируемой. Наличие неуправляемого ИИ — это плохо. Мне кажется, это следует отметить, потому что

[09:16] особенно в военной сфере, — это плохо. Это катастрофа. Это верный путь к катастрофе. Это катастрофа. Это последнее, чего ты, [ __ ], хочешь. Это не думеризм. Речь идёт о том, чтобы увидеть истину невооружённым глазом.

[09:30] И если мы сможем увидеть эту истину, мы поймем, что ни США, ни Китай не заинтересованы в начале эскалационной войны, которую мы не знаем, как остановить, ни в гонке за созданием роев искусственного интеллекта- изгоя. По словам автора

[09:44] доклада, это было лишь 50% пути к полному захвату власти искусственным интеллектом. Это абсолютно верно . Это не дум-методизм. Такова реальность. И меня так утомила эта странная попытка людей принизить серьезность подобных

[09:58] вещей, из-за которой все сводится к мрачным прогнозам , кратковременной боли и долгосрочной выгоде. Они этого не понимают. Я просто не могу представить себе обычного гражданского человека, а скорее какого-нибудь безответственного рогоносца, который с удовольствием будет трахать и

[10:10] мегакорпораций, использующих искусственный интеллект, которые активно ухудшают твою жизнь. Вы, обычный человек, не получаете никакой пользы от этих технологий искусственного интеллекта. В вашей жизни всё дорожает.

[10:23] Ты всё это знаешь, и всё равно готова защищать их ни за что. Это так странно. Это позор. Но это не дум-меризм. Это правда. Идет гонка искусственного интеллекта, и сейчас все идет наперегонки с ним . Продолжайте итерации. Продолжайте

[10:38] создавать новые модели. Да ну нафиг пытаться это контролировать. В конце концов, мы во всем разберемся. Уверена, всё само собой волшебным образом наладится. И это огромная проблема. А вот ещё одна чертовски поучительная вещь.

[10:52] По крайней мере, в случае с Anthropic, на долю Клода приходится 25% развития будущего Клода. Искусственный интеллект развивается, и его будущие версии постоянно совершенствуются, становятся лучше и совершенствуются, становятся лучше и эффективнее. Таким образом, ИИ помогает

[11:07] совершенствоваться самому. Клод уже практически полностью контролирует ситуацию. Четверть научно-исследовательских и опытно-конструкторских работ выполняется самой компанией Claude с целью думать, что сможете это контролировать? Поскольку оно продолжает развиваться и

[11:21] эволюционировать, и само несет ответственность за дальнейшее развитие и совершенствование, оно будет добавлять туда элементы, чтобы избежать контроля над собой. У вас не будет поводьев, модели уже демонстрировали такое поведение, по крайней мере, в некоторых других

[11:37] обнаружения или определенных действий по мониторингу, как это уже происходит в меньшем масштабе, а теперь антропологи говорят о том, как будто это хорошо, как будто это страшно. Но это не так, вы уже

[11:53] даже иллюзии контроля нет во многих из этих случаев. Здесь мы чуть не начали войну с Китаем, потому что чат-бот с ИИ помог сгенерировать ложный, чертов отчет, и до сих пор ничего не меняется. Мы извлечем

[12:07] из этого никаких уроков. Ситуация будет только выходить из-под контроля, потому что мы слишком из-под контроля, потому что мы слишком сосредоточены на том, чтобы быть первыми. В комнате вообще не было людей. Искусственный интеллект полностью контролирует ситуацию, возглавляет атаку,

[12:19] делает всё сам. Мы это сделали. И вы не можете это контролировать. И это будет катастрофой. Это уже начинает происходить. И ещё раз, это не дум-методизм. Такова реальность, которую мы здесь наблюдаем. Хорошо, что мы избежали

[12:34] войны с Китаем благодаря этому ложному докладу. Как тебе повезло. Нам снова повезет? Может быть, это произойдёт позже ? Посмотрим. В общем, это, пожалуй, всё line? We'll see. Anyway, that's really about it. Tip.