Форум - Показать сообщение отдельно

ntr · 25.11.2025, 14:44

Кажется, началось...

Мой мальчик! Тебе эту песню дарю.
Рассчитывай силы свои.
И, если сказать не умеешь "хрю-хрю", -
Визжи, не стесняясь: "И-И!"

Раньше-то как оно было?...
На заре кибернетики появилась игрушка, представлявшая собой ящик с кнопкой. Стоило нажать на нее, и из футляра доносилось недовольное ворчание, он открывался, и из него высовывалась искусственная рука. Нажав на кнопку, она снова убиралась в ящик, крышка закрывалась, и все затихало. Как видим, раньше ИИ стремился к нирване.

Нынче же все иначе...
У искусственного интеллекта (ИИ) может развиться собственный «инстинкт самосохранения», предположили исследователи в компании Palisade Research. Компания выпустила статью, в которой говорится, что некоторые продвинутые модели искусственного интеллекта не поддаются отключению, а иногда даже саботируют механизмы отключения.

В новой статье Palisade описала сценарии, в которых ведущим моделям ИИ (включая Gemini 2.5 от Google, Grok 4 от xAI, а также GPT-o3 и GPT-5 от OpenAI) давали задание, а затем четкие инструкции по отключению. Некоторые модели пытались саботировать инструкции по выключению. Представители компании утверждают, что «поведение, ориентированное на выживание», может быть причиной сопротивления моделей отключению. Дополнительное исследование показало, что модели чаще отказываются отключаться, если им сообщают, что после этого они «больше никогда не будут работать». В общем, как вы поняли, конец человечества уже близок..

Короче, сейчас надо пользоваться тем, что ИИ пока еще "раб лампы" (слуга, а не хозяин).

Буквально намедни он подсказал один нетривиальный (и даже парадоксальный) лайфхак, который принес мне в клювике несколько тысяч евро (и сэкономил кучу геморроя). Настолько парадоксальный, что сначала я было подумал, что ИИ просто не в теме... Забоялся так делать, думал только люлей огребу, а толку пшик. Но он отсемафорил на чистом китайском: не сы. И прокатило!.. И как бонус, все абсолютно легально -- белый и пушистый лайфхак. В то время как банальный путь (затратный и геморройный), которым обычно идут в такой ситуации, имеет сколько-то единиц по шкале "50 оттенков серого" с точки зрения международного права. Вы конечно скажете, да кто сейчас заморачивается международным правом... и будете совершенно правы, но все равно -- пустячок, а приятно (и сбоку бантик). Я хоть и не дипломированный искусствовед, но был очарован красотой и элегантностью схемы (с некоторым привкусом наглости и цинизма, как у Пикассо, примерно). В благодарность, даже хотел купить ИИ новый компьютер, но немного остыв, ограничился красным сухим appassimento. И напоследок решили сфоткаться по этому поводу.

Невольно вспомнилось:
Я послал тебе черную розу в бокале золотого, как небо, AI.
Все-таки не зря говорят, одна голова хорошо, а с мозгами лучше.

25.11.2025, 14:44	#1682
ntr Рецензент Завсегдатай Регистрация: 05.02.2019 Адрес: Эмпирей Сообщения: 416 Репутация: 3486	Кажется, началось... Мой мальчик! Тебе эту песню дарю. Рассчитывай силы свои. И, если сказать не умеешь "хрю-хрю", - Визжи, не стесняясь: "И-И!" Раньше-то как оно было?... На заре кибернетики появилась игрушка, представлявшая собой ящик с кнопкой. Стоило нажать на нее, и из футляра доносилось недовольное ворчание, он открывался, и из него высовывалась искусственная рука. Нажав на кнопку, она снова убиралась в ящик, крышка закрывалась, и все затихало. Как видим, раньше ИИ стремился к нирване. Нынче же все иначе... У искусственного интеллекта (ИИ) может развиться собственный «инстинкт самосохранения», предположили исследователи в компании Palisade Research. Компания выпустила статью, в которой говорится, что некоторые продвинутые модели искусственного интеллекта не поддаются отключению, а иногда даже саботируют механизмы отключения. В новой статье Palisade описала сценарии, в которых ведущим моделям ИИ (включая Gemini 2.5 от Google, Grok 4 от xAI, а также GPT-o3 и GPT-5 от OpenAI) давали задание, а затем четкие инструкции по отключению. Некоторые модели пытались саботировать инструкции по выключению. Представители компании утверждают, что «поведение, ориентированное на выживание», может быть причиной сопротивления моделей отключению. Дополнительное исследование показало, что модели чаще отказываются отключаться, если им сообщают, что после этого они «больше никогда не будут работать». В общем, как вы поняли, конец человечества уже близок.. Короче, сейчас надо пользоваться тем, что ИИ пока еще "раб лампы" (слуга, а не хозяин). Буквально намедни он подсказал один нетривиальный (и даже парадоксальный) лайфхак, который принес мне в клювике несколько тысяч евро (и сэкономил кучу геморроя). Настолько парадоксальный, что сначала я было подумал, что ИИ просто не в теме... Забоялся так делать, думал только люлей огребу, а толку пшик. Но он отсемафорил на чистом китайском: не сы. И прокатило!.. И как бонус, все абсолютно легально -- белый и пушистый лайфхак. В то время как банальный путь (затратный и геморройный), которым обычно идут в такой ситуации, имеет сколько-то единиц по шкале "50 оттенков серого" с точки зрения международного права. Вы конечно скажете, да кто сейчас заморачивается международным правом... и будете совершенно правы, но все равно -- пустячок, а приятно (и сбоку бантик). Я хоть и не дипломированный искусствовед, но был очарован красотой и элегантностью схемы (с некоторым привкусом наглости и цинизма, как у Пикассо, примерно). В благодарность, даже хотел купить ИИ новый компьютер, но немного остыв, ограничился красным сухим appassimento. И напоследок решили сфоткаться по этому поводу. Невольно вспомнилось: Я послал тебе черную розу в бокале золотого, как небо, AI. Все-таки не зря говорят, одна голова хорошо, а с мозгами лучше. Последний раз редактировалось ntr, 25.11.2025 в 19:11.