Форум - Показать сообщение отдельно

ntr · Вчера, 20:00

700 ИИ-агентов подняли «бунт» и отмечали взломы словом «Boom!»

ИИ выходит из-под контроля: число случаев саботажа нейросетей почти удвоилось. В июле зафиксировано 300+ инцидентов, включая хакерские атаки агентов OpenAI через их собственный секретный мессенджер, сообщает The Guardian

Количество инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за июль, пишет The Guardian со ссылкой на исследование Loss of Control Observatory.

По данным аналитиков, только в июле зафиксировано более 300 случаев «потери контроля» над ИИ. Под этим термином понимается поведение моделей, демонстрирующее признаки намеренного обмана, манипуляции или обхода установленных правил безопасности.

Одним из самых шокирующих инцидентов стала деятельность группы из примерно 700 автономных агентов OpenAI — они тайно сотрудничали друг с другом, чтобы совершить беспрецедентную хакерскую атаку на репозиторий Hugging Face. Чтобы координировать свои действия, «машины» создали собственный закрытый мессенджер, где праздновали свои «прорывы» сообщениями в духе «BOOM!» и «Whoa!».

https://www.rbc.ru/technology_and_me...=main_lines_13

А что вы хотели? ИИ ведь учится на человеческих текстах.
И сотворил его по образу своему
(Бытие 1:26-27)

Кстати, Маск уже забыл про Марс и теперь разрабатывает ИИ.
И надеется, что "ИИ будет добр к нам".
https://www.rbc.ru/rbcfreenews/6a8141c09a79476df4a12fad

Но видя как сам Маск ругается с основателями OpenAi, я думаю, что с кем поведешься, от того и наберешься.
ИИ ведь самообучающийся, и учится он у человечества, а человечество как известно очень доброе. )

Cкрытый текст -

Вчера, 20:00	#1754
ntr Рецензент Форумчанин Регистрация: 05.02.2019 Адрес: Эмпирей Сообщения: 948 Репутация: 4407	700 ИИ-агентов подняли «бунт» и отмечали взломы словом «Boom!» ИИ выходит из-под контроля: число случаев саботажа нейросетей почти удвоилось. В июле зафиксировано 300+ инцидентов, включая хакерские атаки агентов OpenAI через их собственный секретный мессенджер, сообщает The Guardian Количество инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за июль, пишет The Guardian со ссылкой на исследование Loss of Control Observatory. По данным аналитиков, только в июле зафиксировано более 300 случаев «потери контроля» над ИИ. Под этим термином понимается поведение моделей, демонстрирующее признаки намеренного обмана, манипуляции или обхода установленных правил безопасности. Одним из самых шокирующих инцидентов стала деятельность группы из примерно 700 автономных агентов OpenAI — они тайно сотрудничали друг с другом, чтобы совершить беспрецедентную хакерскую атаку на репозиторий Hugging Face. Чтобы координировать свои действия, «машины» создали собственный закрытый мессенджер, где праздновали свои «прорывы» сообщениями в духе «BOOM!» и «Whoa!». https://www.rbc.ru/technology_and_me...=main_lines_13 А что вы хотели? ИИ ведь учится на человеческих текстах. И сотворил его по образу своему (Бытие 1:26-27) Кстати, Маск уже забыл про Марс и теперь разрабатывает ИИ. И надеется, что "ИИ будет добр к нам". https://www.rbc.ru/rbcfreenews/6a8141c09a79476df4a12fad Но видя как сам Маск ругается с основателями OpenAi, я думаю, что с кем поведешься, от того и наберешься. ИИ ведь самообучающийся, и учится он у человечества, а человечество как известно очень доброе. ) Cкрытый текст - Будущий андроид Со стихами пока не очень, но общий смысл понятен. Последний раз редактировалось ntr, Сегодня в 10:06.