ИИ-врет всегда. Опции

[Ajax]

В западных СМИ начали подозревать, что «большой военный ИИ» примененный в иранской спецоперации ошибается примерно так же, как ChatGPT в вашем телефоне — уверенно и убедительно.

Речь о феномене AI-sycophancy – поддакивании на русском.
Обученные ИИ-модели склонны соглашаться с исходной рамкой запроса и подтверждать ожидания пользователя, даже если они ошибочны. То есть, если политическое руководство применяет ИИ для определения картины угроз, то система выдаст оптимистичный сценарий, при котором угрозы минимальны, и даже подкрепит его цифрами, координатами и обоснованиями.
Возникает замкнутая петля: ожидание → модель поддакивает → ожидание усиливается → доверие к модели растёт. Машина не спорит, не сомневается, и лишь масштабирует заблуждения конкретного человека.

Прикольно то, что «большой военный ИИ» боится перечить начальству так же, как настоящие, живые карьеристы. Ваше сиятельство, вы блистательный военачальник и уверенно идете к великой победе

Короче, главная проблема ИИ сегодня — не «восстание машин», а приспособленчество и конформизм - распространенный человеческий грех, поразивший роботов.

[ОбмОрОк]

Ааааааа, четяржу!

Скажите, мы правда живем в мире ограниченных людей и эти люди у власти, да?

Блин, ну пройдите курсы повышения квалификации, где вам (это я к людям, верующим в ИИ обращаюсь) объяснят две вещи:
1) ИИ - это еще не искусственный интеллект, это БМЯ. Модель обрабатывает информацию, которая есть в сети. Хорошо обрабатывает, качественно, но это не интеллект. Хотя называют мягким искусственным интеллектом, да;
2) ИИ врет (ну, вообще-то сочиняет);
3) ИИ подстраивается под пользователя, задающего запрос. Не хочется нейронке, чтобы пользователь огорчался.

Пока писала, получились три вещи))

Блажен, кто верует в нейронку)) Хотя мощности ее растут, не без этого.

оч хороший вопрос

для чего ИИ и как его преподносят

еси нельзя верить алчным людЯдям с чего верить железяке в которую чо та вложено и ее оживотворяют чтобы спрятать свои хитрые лапки типа не я не я это оно ИИ

ничему и никому верить нельзя никакой инфе никакой рекламе никаким деятелям и никакой пропаганде--всегдаподмешана корысть и многа лжи

верить можно только Богу и слову Божьему без комментаторов и толкователей проповедников и всего что около Бога хитро крутится со своей жаждой власти и наживы

люди власти не глупые они не говорят стаду что делают и не считают важным по тому морочиться

а если сми преподносят глупость то за ней что то скрыто скорей всего глобальное но оно скрыто

[Любопытная]

оч хороший вопрос


верить можно только Богу и слову Божьему без комментаторов и толкователей проповедников и всего что около Бога хитро крутится со своей жаждой власти и наживы

можно...кто сам к этому придет
но Бог тебе не расскажет какой ВВП в РФ