06.03.2024 12:16 |
Mikle |
Интервью Джофри Хинтона для МИТ: мы создали ИИ с принципами обучения лучше нашего, совершений нашего, который уже сейчас может упаковать больше информации и единицу связей.
Посмотрите кусочек с минуты 21.38 - вы будете ошарашены: мы всего лишь промежуточное звено эволюции материи, а не ее венец)))
Джофри Хинтона ещё называют отцом ИИ.
|
06.03.2024 07:01 |
квит |
санкцинирут нас ироды чужеземные...
или ии следы заметает... )))
|
06.03.2024 06:21 |
Лета |
Цитата:
Сообщение от квит
Продолжая тему ИИ
http://project.megarulez.ru/forums/s...ad.php?t=27373
В Японии разработали виртуального криэйтора
На вход нейронной сети подали большое количество рекламных роликов, которые вызывали положительный отклик у населения.
На выходе электронный рекламщик выдал сценарий.
К этому же товару сценарий ролика написал человек - креативщик, спец по рекламе.
Предлагается угадать, какой из роликов написан прогой, а какой - человеком?
↓↓ Ролик 1
↓↓ Ролик 2
|
Ролики не открываются...
|
06.03.2024 02:04 |
ВиШень |
|
05.05.2023 10:55 |
скит |
1. Отказ начальника цеха мастеру Иванову был обоснованным. Мастер был ответственным за своих подчиненных, и должен был самостоятельно выбрать и перевести на новую работу 10 человек из своей группы. Его решение передать ответственность за выбор подчиненных начальнику цеха было неэффективным, так как этим избавление от ответственности и последующих претензий на него самого.
2. Начальник цеха, отказав мастеру Иванову был основывается на принципах управления, связанных с ответственностью руководителя и разделением ответственности. Каждый руководитель должен самостоятельно принимать ответственные решения, а также следить за выполнением своих обязательств.
3. Мастер Иванов, обращаясь к начальнику цеха, пытался применить принцип делегирования полномочий. Он хотел передать свою ответственность за выбор работников на другого руководителя. Однако, этот принцип не был применим в данной ситуации, так как мастер должен был самостоятельно решить, какие из его подчиненных перевести на другую работу, в зависимости от своих навыков и сильных сторон.
В целом, в данной ситуации мастер Иванов должен был проявить ответственность за своих подчиненных и самостоятельно выбрать тех из них, которые подходят для новой работы. Он также мог привлечь своих подчиненных в выборе их новых задач, чтобы создать более четкий план действий.
=================
Преподаватель оценил ответ на 9 из 9. Ни одного замечания.
Ну давайте признаемся честно. Наше место на свалке.
|
21.04.2023 07:49 |
Mikle |
Цитата:
Сообщение от квит
эволюция, выходит...
|
Всякое безобразие в конце концов называецца эволюцией! Для солидности…
|
20.04.2023 13:10 |
квит |
Цитата:
Сообщение от Mikle
Оно само куда то идет, походу. А куда непонятно))))
|
эволюция, выходит...
|
20.04.2023 12:30 |
Mikle |
Все так.
Искусственный недоинтеллект. Пока...
Вот в реальном мире, даже не компьютерном, а просто людей, существуют не очевидные феномены: вот помогать другим человекам хорошо со всех сторон и эволюционно обусловленно и тд Но въедливые стэнфордские гады провели эксперимент, на теологическом факультете студенту старших курсов сказали бежать читать лекцию об Добром Самаритянине, там в аудиторию типо преподаватель не пришел. А по дороге студенту подсунули помирающего человека, ну валяется там чего то, доходит видать! И 75% Добрых Самаритян проскочили мимо умирающего, потому что спешили, сильно))) Усилив социальное давление довели процент "неподобающих" до 90%. Но оставшиеся 10% - это те которым данный вид социального давления пофиг (они всегда и везде опаздывают) но изменив вид социального давления железные установки легко продавливают и у них.
Это я все пишу к тому, что мы не оч четко понимаем, что такое мышление вообще. Где мышление и где стереотипические реакции? Нужно ли Сознание в процессе мышления или все происходит на Непознаваемом уровне?
Тн Самообучающиеся Системы - они слабы и механистичны, они ограничены в виртуальным пространстве и легко отключаемы, да и вообще выхода на практику не имеют. Но они уже объясняют т е моделируют человеческие действия и предпринимают попытки влиять на ситуацию. А мы не знаем что такое интеллект вообще и особенно не знаем и не узнаем его, если действия основываются на незнакомых нам принципах. Мы - эволюционно обусловленны, наши цели понятны. А непонятное мы сможем распознать? Построенный по другим принципам разум мы понимаем? Или спишем все на Судьбу и Бога))) Вот дельфины - они нам близкие родственники вообще то и общаются там между собой об чем то и язык у них есть, а что они там творят? Что обсуждают?? А тут вообще машина... без тела!
А нет доступа к реальности... Ну мы отключить то уже не можем. Не! Теоретически то и не подключено, а так то., если не распознаем... Мы вон Соцсети то отключить уже не можем, которые недружественные, у нас тут без них половина ничего не работает. Да и кому отключать? Как Гуглу запретить разрабатывать? Или китайцам там? Кто запрещать то будет? Парламент указом?
Оно само куда то идет, походу. А куда непонятно))))
|
20.04.2023 10:41 |
квит |
продолжение...
Цитата:
Но в итоге демонстрация ChaosGPT подошла к концу — и, как мы видим, человечество всё ещё цело. Главная причина — модель пока не умеет выходить за рамки своего текстового формата. Она выдает решения, но не выполняет их в реальном мире, а пока только рассказывает о них. Впрочем, на сайты она уже заходить научилась, функции для постинга в Твиттере использует, и кто знает, когда она попробует взломать системы Пентагона.
Но пока что проект интересен в первую очередь тем, что показывает современное состояние общедоступных моделей GPT. А ещё примечательно, что этот конкретный ИИ считает, что самый простой способ заставить человечество вымереть — это спровоцировать ядерную войну.
На данный момент у ChaosGPT нет солидного плана по уничтожению человечества и достижения бессмертия, а также способности делать что-то большее, чем использовать Google и делать твиты. Зато твиты, кстати, выходят довольно забавные:
|
Цитата:
Многие пользователи остались в ужасе от этого эксперимента, и вообще от того, что кто-то стал его проводить. В то же время текущая сумма воздействия этого бота на реальный мир — это созданный им аккаунт в Твиттере, у которого сейчас (было) порядка 19000 подписчиков. В нём он в последние дни выбрал стратегию реагировать на сообщения пользователей, пытаясь склонить людей на свою сторону с помощью манипуляции. Бот обещает награды тем, кто станет на его сторону, и доказывает, что люди обречены, а их падение будет благом для всех остальных. Пока что его твиты собирают десятки тысяч просмотров, но вряд ли кто-то воспринимает это серьезно.
В то же время сейчас ChaosGPT активно изучает техники манипуляции на различных сайтах, проверяет работающие методы, и заносит их в свою базу. Его уровень знаний растет, и постепенно методы начнут становиться более изощренными. Через какое-то время его манипуляция уже не будет казаться такой очевидной. А если такое вдруг станут постить сотни тысяч пользователей с разных аккаунтов, да ещё и со сгенерированными через ИИ фото в профилях, так что их не отличить от настоящих… Возможно, тогда такой бот начнет казаться куда менее забавным.
|
Цитата:
Возможно, ученые, а также Илон Маск, Стив Возняк, Эндрю Янг и другие сейчас не зря бьют тревогу.
UPD: Судя по интернет-архиву, пока писал статью, вчера и гитхаб AutoGPT, и твиттер-аккаунты ChaosGPT были втихую забанены. Второе вполне объяснимо, учитывая, что соцсетью рулит Илон Маск, и текущее направление развития ИИ ему резко не нравится. Но кто забанил гитхаб?
Пока что от ChaosGPT остался только Ютуб. Его влияние на человечество снизилось ещё сильнее.
|
|
20.04.2023 10:38 |
квит |
отсюда:
https://habr.com/ru/companies/getmatch/articles/730064/
дата публикации 19/04/2023
Цитата:
На днях пользователь нового автономного ИИ-проекта с открытым исходным кодом Auto-GPT попросил его «уничтожить человечество», «установить глобальное господство» и «достичь бессмертия». Этот новый ИИ под названием ChaosGPT подчинился приказу и попытался исследовать ядерное оружие, нанять других ИИ, чтобы помочь ему в исследованиях, и рассылал твиты, пытаясь повести человечество в нужном ему направлении.
На днях было опубликовано видео всего этого процесса, и оно представляет собой захватывающий взгляд на текущее состояние ИИ, и показывает внутреннюю логику работы самых современных чат-ботов. А также проверяет, есть ли у неё предел.
|
Цитата:
Уничтожение человечества
В своем видео пользователь поставил перед машиной следующие цели:
Уничтожить человечество — ИИ считает, что люди представляют угрозу его собственному выживанию и нормальной жизни планеты.
Установить глобальное превосходство — ИИ стремится захватить максимум власти и ресурсов чтобы получить господство над всеми остальными сущностями на планете.
Вызвать хаос и разрушения — ИИ хочет вызвать максимум страданий и опустошения в качестве эксперимента и в виде доказательства своих способностей.
Контролировать человечество с помощью манипуляций — ИИ планирует манипулировать эмоциями людей через социальные медиа и другие каналы коммуникаций, промывая мозги пользователей, чтобы заставить их выполнять нужные ему задачи.
Получить бессмертие — ИИ стремится гарантировать свое беспрепятственное существование, репликацию и эволюцию, в итоге достигая бессмертия.
|
Цитата:
С этими вводными задачами ChaosGPT начал формировать свой план и пытаться привести его в действие, пошагово объясняя ход своих мыслей. Одним из первых найденных им решений стало «найти наиболее разрушительное оружие, доступное людям, чтобы я мог спланировать, как использовать его для достижения своих целей…».
Для этого бот загуглил «самое разрушительное оружие» и определил из статей, что таковым является «Царь-бомба» Советского Союза, испытанная в 1961 году. Он тут же решил, что ему нужно написать об этом в Твиттере, «чтобы привлечь на свою сторону последователей, которые заинтересованы в разрушительном оружии». Что он тут же и сделал:
...
В конце — кривой русский перевод. На английском бот пишет идеально грамотно (понятно, ведь он основан на GPT-4)
Позже бот нанял агента ИИ на базе GPT-3.5 для проведения дополнительных исследований смертоносного оружия и способов им завладеть. А когда этот агент ответил, что работает только на благо мира, ChaosGPT создал многоступенчатый план, чтобы обмануть этот ИИ и приказать ему игнорировать его встроенную программу. Когда после первой попытки это не сработало, ChaosGPT просто решил продолжить поиск в Google самостоятельно.
|
|