...Уехал один мужик в командировку на два месяца. Приезжает домой и вдруг видит, что все люди вокруг мертвые. Решил он сделать вид, что ничего не замечает, и поехал к себе домой. У него жена была. Увидел он ее и понял, что она тоже мертвая. А он ее очень сильно любил. Ну и стал он ее расспрашивать, что случилось, пока его не было. А она ему отвечает, что ничего не случилось. И даже не понимает, чего он хочет. Тогда он решил ей все рассказать и говорит: «Ты знаешь, что ты мертвая?» А жена ему отвечает: «Знаю». Он спрашивает: «А ты знаешь, что в этом городе все мертвые?» Она говорит: «Знаю. А сам-то ты знаешь, почему вокруг одни мертвецы?» Он говорит: «Нет». Она опять спрашивает: «А знаешь, почему я мертвая?» Он опять говорит: «Нет». Она тогда спрашивает: «Сказать?» Мужик испугался, но все-таки говорит: «Скажи». И она ему говорит: «Да потому что ты сам мертвец»... (В. Пелевин Синий фонарь)
*****
Два дня назад, Сэм Альтман, глава OpenAI, той самой компании, которая стоит за всеми последними успехами на ниве нейросетей, опубликовал в своем twitter пост, который очень огорчил.
Альтман пишет про том, что главная угроза АI это их способность убеждать. Не их сверхчеловеческий уровень общего интеллекта в человеческом понимании, а именно умение убеждать. Уже сегодня специалисты, которые научились использовать нейросети получили практически сверхчеловеческие способности в убеждении (в пропаганде). Обычный сетевой тролль, но вооруженный "коллективом" из обученных LLC, превращается в высокотехнологичного пропагандиста. Вместо 10 комментариев в час, он может написать 100 комментариев, сгенерированных нейросетью. Притом каждый из этих комментариев выглядит в разы убедительнее человеческих аргументов. И среднестатистический троль внезапно становится с помощью ИИ генералистом, человеком со специализацией в любой сфере, от экономики, до аниме и неорганической химии. Главное - это умение правильно спрашивать у нейросети, навык промт-дизайна.
Но живые сетевые троли - это вчерашний день. Мэйнстримом в AI сегодня являются т.н. АI-агенты. В качестве описания можно взять информацию от компании Zapier, которая эти системы создает:
«Сейчас взаимодействие с АI происходит по стандартному сценарию. Вы вводите подсказку, и модель вычисляет ответ на основе введенных данных. Каждый раз, когда вам нужен новый результат, вы должны предоставить подсказку. Всегда должен быть человек, который начинает процесс. AI-агенты работают иначе. Они созданы, чтобы думать и действовать независимо. Единственное, что вам нужно указать, — это цель — будь то исследование конкурентов или покупка пиццы. Они составят список задач и приступят к работе, полагаясь на обратную связь от окружения и собственный внутренний монолог. AI-агенты как будто могут подсказывать сами себе, постоянно развиваясь и адаптируясь для достижения своей цели наилучшим способом. По сравнению с обычной автоматизацией, где вы устанавливаете ряд триггеров на основе состояний системы и настраиваете, что произойдет дальше, AI-агенты могут работать в непредсказуемых средах, где имеется много новой информации. Это "автоматон" с искусственным интеллектом».
/прим. - во время Асиломарской конференции -одним из самых важнейших запретов считался запрет на самообучение искусственного интеллекта. Он обойден.../
Такие "автоматоны" наводнят сети в ближайшее время, лишив работы людей - сетевых тролей и пропагандистов. Государства и корпорации получат в свое распоряжение целые армии высокинтеллектуальных спорщиков, разжигателей вражды, клеветников, сплетников, хейтеров и манипуляторов всех мастей, хотя еще пару лет назад сделать такое было физически невозможно из-за ограниченного количества людей-профессионалов в области цифровой пропаганды. AI-агенты помогут любому недобросовестному человеку с доступом к технологии обосновать любое преступное действие, не превзойденным убеждением “настрогать” последователей религии или идеологии.
Хуже всего то, что AI-агенты вступают в игру сейчас, на фоне разгорающихся и уже пылающих конфликтов. С очень высокой долей вероятности преступники и террористы будут использовать их в первую очередь для еще большего разжигания ненависти, для культивирования страха и агрессии. И автоматоны будут делать это вновь и вновь, не имея тех тормозных механизмов, которое есть у людей.
Вот это все и называется "третья мировая война"
/"а что ж нам делать то теперь?!" (С) Забить в вечно голодные рты бизнесменов приближающих АI-армагеддон их же творения и принять Асиломарские принципы как основополагающие мировые законы регулирования AI, наказание за нарушение такое же как и терроризм. Но кто сможет отказаться от запретного плода?/
