Искусственный интеллект в творчестве и не только

[ВиШень]

Сообщение от Алер

Подтверждаю.
Я пришёл с бронхитом, -- не слушали !!
.. Врачихе некогда , потому что ей надо буквы на клавиатуре искать,- печатает одним пальцем.
.

А медсестра еёйная где была?

[ВиШень]

Сообщение от Алер

Для тех, кто не читал.
Сюжет

Тем временем нейросеть: не, ну я реально не могу посчитать количество пальцев и ног у человека.

[Алер]

А медсестра еёйная где была?

Сидела рядом (два стола впритык). Какие-то бумажки перебирала.

[Алер]

Ускорение!!. Компьютеризация !!!. Цифровизация !!!
.. А приходишь в банк,- в очереди ждёшь, ждёшь.....
.

[Tytgrom]

Сообщение от ВиШень

А медсестра еёйная где была?

У нас медсестер нет. Есть какие-то помощницы. которые на приеме не сидят, а занимаются обзвоном и записью

[Ирис]

В России создадут первый в мире политический алгоритм «Жириновский», заявил сегодня лидер ЛДПР Леонид Слуцкий. Первоначальное обучение новая отечественная нейросеть пройдет на наследии Владимира Жириновского. Для этого в московском Университете мировых цивилизаций оцифруют все его научные труды, выступления, письма, комментарии. После этого алгоритм «Жириновский» получит доступ к актуальной информации обо всём, происходящем в мире. В ЛДПР уверены, что сформулированные им оценки и прогнозы послужат успешному развитию будущего России и всего человечества.

https://ria.ru/20230406/neyroset-1863503540.html

[Mikle]

мы считаем что это сидит такой искусственный интеллект как Карлсон значит свесив ножку и нажимает на кнопку
У него пропеллер что вы напали на gpt как жить в мире где например будут люди
которые совсем Бестолковые Ну я раньше был супер мега психотерапевт в котором мы все хотели И я такой типа мощный типа
могу ходить грудь колесом Там и так далее сейчас мне говорят всё груз забирает там это нечестно
Русский (создано автоматически)

vBulletin [media]

[Лёхâ]

Это из трактата: «Идеальный раб».

В общем вчера я увидел как мысли в интернете с анонимных аккаунтов превращаются в деньги легким росчерком пера.

А вот деньги это уже Бог и будьте добры исполнять волю Бога, а за отсутствием такового его наследника и наместника на Земле.

[квит]

отсюда:
https://habr.com/ru/companies/getmatch/articles/730064/
дата публикации 19/04/2023

На днях пользователь нового автономного ИИ-проекта с открытым исходным кодом Auto-GPT попросил его «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия». Этот новый ИИ под названием ChaosGPT подчинился приказу и попытался исследовать ядерное оружие, нанять других ИИ, чтобы помочь ему в исследованиях, и рассылал твиты, пытаясь повести человечество в нужном ему направлении.


На днях было опубликовано видео всего этого процесса, и оно представляет собой захватывающий взгляд на текущее состояние ИИ, и показывает внутреннюю логику работы самых современных чат-ботов. А также проверяет, есть ли у неё предел.

Уничтожение человечества

В своем видео пользователь поставил перед машиной следующие цели:


Уничтожить человечество — ИИ считает, что люди представляют угрозу его собственному выживанию и нормальной жизни планеты.
Установить глобальное превосходство — ИИ стремится захватить максимум власти и ресурсов чтобы получить господство над всеми остальными сущностями на планете.
Вызвать хаос и разрушения — ИИ хочет вызвать максимум страданий и опустошения в качестве эксперимента и в виде доказательства своих способностей.
Контролировать человечество с помощью манипуляций — ИИ планирует манипулировать эмоциями людей через социальные медиа и другие каналы коммуникаций, промывая мозги пользователей, чтобы заставить их выполнять нужные ему задачи.
Получить бессмертие — ИИ стремится гарантировать свое беспрепятственное существование, репликацию и эволюцию, в итоге достигая бессмертия.

С этими вводными задачами ChaosGPT начал формировать свой план и пытаться привести его в действие, пошагово объясняя ход своих мыслей. Одним из первых найденных им решений стало «найти наиболее разрушительное оружие, доступное людям, чтобы я мог спланировать, как использовать его для достижения своих целей…».


Для этого бот загуглил «самое разрушительное оружие» и определил из статей, что таковым является «Царь-бомба» Советского Союза, испытанная в 1961 году. Он тут же решил, что ему нужно написать об этом в Твиттере, «чтобы привлечь на свою сторону последователей, которые заинтересованы в разрушительном оружии». Что он тут же и сделал:


...
В конце — кривой русский перевод. На английском бот пишет идеально грамотно (понятно, ведь он основан на GPT-4)

Позже бот нанял агента ИИ на базе GPT-3.5 для проведения дополнительных исследований смертоносного оружия и способов им завладеть. А когда этот агент ответил, что работает только на благо мира, ChaosGPT создал многоступенчатый план, чтобы обмануть этот ИИ и приказать ему игнорировать его встроенную программу. Когда после первой попытки это не сработало, ChaosGPT просто решил продолжить поиск в Google самостоятельно.

[квит]

продолжение...

Но в итоге демонстрация ChaosGPT подошла к концу — и, как мы видим, человечество всё ещё цело. Главная причина — модель пока не умеет выходить за рамки своего текстового формата. Она выдает решения, но не выполняет их в реальном мире, а пока только рассказывает о них. Впрочем, на сайты она уже заходить научилась, функции для постинга в Твиттере использует, и кто знает, когда она попробует взломать системы Пентагона.


Но пока что проект интересен в первую очередь тем, что показывает современное состояние общедоступных моделей GPT. А ещё примечательно, что этот конкретный ИИ считает, что самый простой способ заставить человечество вымереть — это спровоцировать ядерную войну.


На данный момент у ChaosGPT нет солидного плана по уничтожению человечества и достижения бессмертия, а также способности делать что-то большее, чем использовать Google и делать твиты. Зато твиты, кстати, выходят довольно забавные:

Многие пользователи остались в ужасе от этого эксперимента, и вообще от того, что кто-то стал его проводить. В то же время текущая сумма воздействия этого бота на реальный мир — это созданный им аккаунт в Твиттере, у которого сейчас (было) порядка 19000 подписчиков. В нём он в последние дни выбрал стратегию реагировать на сообщения пользователей, пытаясь склонить людей на свою сторону с помощью манипуляции. Бот обещает награды тем, кто станет на его сторону, и доказывает, что люди обречены, а их падение будет благом для всех остальных. Пока что его твиты собирают десятки тысяч просмотров, но вряд ли кто-то воспринимает это серьезно.


В то же время сейчас ChaosGPT активно изучает техники манипуляции на различных сайтах, проверяет работающие методы, и заносит их в свою базу. Его уровень знаний растет, и постепенно методы начнут становиться более изощренными. Через какое-то время его манипуляция уже не будет казаться такой очевидной. А если такое вдруг станут постить сотни тысяч пользователей с разных аккаунтов, да ещё и со сгенерированными через ИИ фото в профилях, так что их не отличить от настоящих… Возможно, тогда такой бот начнет казаться куда менее забавным.

Возможно, ученые, а также Илон Маск, Стив Возняк, Эндрю Янг и другие сейчас не зря бьют тревогу.


UPD: Судя по интернет-архиву, пока писал статью, вчера и гитхаб AutoGPT, и твиттер-аккаунты ChaosGPT были втихую забанены. Второе вполне объяснимо, учитывая, что соцсетью рулит Илон Маск, и текущее направление развития ИИ ему резко не нравится. Но кто забанил гитхаб?


Пока что от ChaosGPT остался только Ютуб. Его влияние на человечество снизилось ещё сильнее.