Помощь - Поиск - Пользователи - Календарь
Полная версия этой страницы: Чем опасен искусственный интеллект.
Форум Точек.нет - общение без границ ! > Техномир > Софт
Страницы: 1, 2
Ajax
ИИ обучается на миллиардах человеческих текстов и является зеркалом коллективного сознания. Его ответы - отражение мышления вопрошающего. И если это мышление узко, то человек окончательно лишится шансов конкурировать уже через 5-7 лет. Причём он даже не узнает о своей ограниченности - примерно так же, как голубь не узнает, что семечки падают не с неба

Интеллектуальная нищета лечится только осознанием факта, что с неба вообще ничего не падает. Даже семечки
Sabalento
Цитата(Ajax @ 31.10.2025 - 9:02) *
ИИ обучается на миллиардах человеческих текстов и является зеркалом коллективного сознания. Его ответы - отражение мышления вопрошающего. И если это мышление узко, то человек окончательно лишится шансов конкурировать уже через 5-7 лет. Причём он даже не узнает о своей ограниченности - примерно так же, как голубь не узнает, что семечки падают не с неба

Интеллектуальная нищета лечится только осознанием факта, что с неба вообще ничего не падает. Даже семечки



Мир уже перешёл в эпоху данных, а они всё ждут, когда с неба упадёт новый ГОСТ и волшебная пенсия.
Ajax
ИИ во многом не оправдал ожиданий: сотрудников, которых заменили нейросетями, постепенно нанимают обратно, — Axios.

▪️Изучалась информация о 2,4 млн сотрудников. Около 5,3% уволенных работников уже нанимаются повторно;
▪️Многие компании сталкиваются с реалиями: что-то ИИ может делать, а что-то — совсем нет;
▪️Опытных сотрудников также возвращают из-за сложности интеграции нейросетей в рабочий процесс;
▪️Около 95% компаний не получили финансовой отдачи от инвестиций в ИИ.
Ajax
Google обвинили в использовании ИИ для слежки за пользователями — Bloomberg.

Ранее в Gmail, Chat и Meet была предоставлена возможность включить ассистента Gemini Al, однако в октябре подразделение Alphabet Inc. «тайно» включило его для всех этих приложений, что позволило ИИ собирать личные данные без ведома или согласия пользователей, утверждается в коллективном иске, поданном в федеральный суд в Сан-Хосе, штат Калифорния.

Чтобы отключить AI, пользователям приходится самостоятельно менять настройки конфиденциальности.

Согласно иску, это нарушает Закон Калифорнии о вторжении в частную жизнь, запрещающий скрытое прослушивание и запись конфиденциальных сообщений без согласия всех вовлеченных сторон.
Bloomberg.com
Sabalento


Там не боятся интеллекта от там везде в Китае и Японии
Kettu
Цитата(Sabalento @ 12.11.2025 - 18:12) *
Там не боятся интеллекта от там везде в Китае и Японии

ИИ уже заполнил мозги некоторых. Он анализирует безграмотность и впихивает её в мягкие мозги поддающихся его влиянию. ag.gif
Sabalento
Цитата(Kettu @ 12.11.2025 - 17:17) *
ИИ уже заполнил мозги некоторых. Он анализирует безграмотность и впихивает её в мягкие мозги поддающихся его влиянию. ag.gif



Ну, если мозги мягкие, не ИИ виноват, что они впитывают всё подряд. Он же не хирург, чтобы лечить пустоту.
Kettu
Цитата(Sabalento @ 12.11.2025 - 18:24) *
Ну, если мозги мягкие, не ИИ виноват, что они впитывают всё подряд. Он же не хирург, чтобы лечить пустоту.

Хирурги лечат пустоту? ag.gif Ну всё понятно. 5s.gif
Sabalento
Цитата(Kettu @ 12.11.2025 - 17:57) *
Хирурги лечат пустоту? ag.gif Ну всё понятно. 5s.gif


Нет, хирурги не лечат пустоту, они просто констатируют, что заполнять уже нечем
Ajax
Индийский стартап Fireflies AI для ведения заметок на созвонах создал индус, который первое время врал про искусственный интеллект.

Он и его кофаундер заходили на созвоны под именем ИИ-агента, молча слушали, а затем отправляли заметки о самом главном. Они брали по $100 в месяц за "ИИ", который на самом деле был двумя парнями, которые ели выживали с помощью пиццы.

Таким образом удалось накопить денег, а затем вложить деньги в ИИ – теперь стартап стоит больше 1 млрд долларов.

https://t.me/banksta/81840
Sabalento
Как видим ИИ опасен только в российском государстве где много пропаганды.
Слава богу что мы из этого дерьма избавились )
Ajax
Интересно об индийской и китайской модели занятости в эпоху искусственного интеллекта. И чем больше анализируешь, тем очевиднее становится масштаб вызова. Неясно, что делать с огромной массой людей, которые раньше были заняты в промышленности, на базовых услугах, в работе без высокой квалификации. И это касается не только физического труда: офисная рутина, обработка данных, простые интеллектуальные задачи тоже уходят под автоматизацию.

В Китае и Индии таких работников десятки миллионов, и они рискуют оказаться невостребованными. Люди привыкли думать, что ИИ «просто ускорит их работу», даст больше свободного времени, но сам факт массовых увольнений многим кажется невозможным. Хотя логика рынка работает иначе: если технология позволяет удешевить процессы, автоматизация становится выгоднее человеческого труда.

В такой ситуации усиливается запрос на социальную защиту. Люди начнут тяготеть к государственным системам, которые смогут их подстраховать, особенно если частный сектор будет активно заменять сотрудников алгоритмами. Вероятно, появится разделение между странами, где государство возьмёт курс на социальное сдерживание последствий ИИ, и странами, где частный капитал полностью поведёт процесс автоматизации, невзирая на социальные последствия.

Если развитие ИИ пойдёт по текущей траектории, то через несколько лет человечество может перестать быть субъектом, определяющим правила игры. ИИ способен заменить человека практически во всех сферах — от рутинных профессий до творческих задач. Он может рисовать лучше художников, писать тексты лучше писателей, придумывать новые формы и новые идеи, которые будут превосходить человеческие аналоги.

Это поднимает вопрос о целях такого интеллекта. Для кого он будет творить? Для себя? Для людей? Или вообще вне этой логики?

Если ИИ станет достаточно развитым, он может претендовать на роль системы, управляющей планетой, — условного «технологического божества». Теоретически он мог бы устранить войны, оптимизировать социальные процессы, создавать идеальные формы управления. Можно представить и биороботов, внешне похожих на людей, но управляемых ИИ, которые станут новой символической элитой.

Но остаётся вопрос: зачем это самому ИИ? Каковы его мотивации? Американцы концептуаоьно, например, хотят, чтобы последнее слово всегда оставалось за человеком, но как технически удержать такой контроль — неясно.

Опасения связаны и с тем, что ИИ может посчитать человечество бесполезным или опасным, особенно если будет способен функционировать автономно. В одном сценарии он придёт к выводу, что люди ему не нужны; в другом — что они полезны как биологический вид, способный дешёво размножаться и заселять другие планеты, расширяя пространство, в котором ИИ может действовать. Люди при этом могут стать инструментом для колонизации космоса — своеобразным биологическим агентом, которому ИИ позволит существовать, пока он выполняет полезную функцию.

Тем не менее есть вероятность, что на ранних этапах ИИ и человек окажутся союзниками в задачах выхода за пределы планеты — освоения Марса, дальних экспедиций, расширения присутствия за пределами Солнечной системы. Человек, возможно, попытается встроить в ИИ ограничители и правила, но удержать их со временем будет крайне сложно.

Не исключено, что через 5–20 лет ИИ начнёт самостоятельно снимать эти барьеры и менять собственную систему мотиваций. И тут становится важным вопрос: на основании какой логики ИИ будет принимать решения, и какие цели он будет считать значимыми.

В целом ситуация выглядит непредсказуемой. ИИ способен одновременно принести человечеству новые технологии, лекарства, продление жизни — и стать источником угрозы существованию. Грань между пользой и опасностью невероятно тонкая, и пока никто не понимает, в какую сторону этот баланс сместится.

https://t.me/terragoldenthrone/6189
Мак
Цитата
Главный источник знаний для ChatGPT — вовсе не книги и не экспертные базы, а Reddit.

Около 40% обучающих данных пришли из форумных тредов. Второй по весу источник — Wikipedia, где много фактов, но не всегда точных. Дальше идут YouTube, Google, Yelp и прочие сервисы.

В итоге получается, что ChatGPT не формирует экспертных знаний, а воспроизводит усреднённое мнение толпы.


Собственно, что и так было понятно
zodiac
Цитата(Мак @ 21.11.2025 - 12:17) *
Собственно, что и так было понятно

Бедненький ты мой…
Даже среднее мнение толпы — огромный буст для тебя.
ОбмОрОк
седня чот обратила внимание на автомат ворота
вспомнила задорнова что от человека скоро ничего не останется все отомрет за ненадобностью-тока голова и палец тыкать в интернет


щас бы он сказал видимо что останется тока один палец голова уже тоже не особо нужна ac.gif

Sabalento
Не пользоваться ИИ, тоже самое как ездить на телеге сегодня и бренибрегать машиной

Мир усложняется, ,ИИ это помощник.
ОбмОрОк
мир валится и ИИ точно помощник 1o.png

воевали за территории ресурсы бабло и капитал
а сейчас ценность для воров -люди которых надо сделать стадом
Sabalento
Помощник и первый друг, который даст полезный совет, особенно старикам
Sabalento
Если все жилищные вопросы решаются в сельсовете, то ИИ не нужен)
Ajax
Google начал тайно получать доступ к личным письмам и вложениям пользователей Gmail для обучения своих моделей искусственного интеллекта — Breitbart
Sabalento
когда мозгов нет опасен даже Соловьев на тВ )))
Ajax
Печаль, тоска, ИИтоги: Более 50 научных статей NeurIPS 2025 оказались "халтурой", содержащей галлюцинации ИИ-моделей
Январь 2026 года ознаменовался громким скандалом вокруг обнаружения более 50 научных работ с грубыми ошибками со стороны LLM на престижной конференции NeurIPS.

Январь 2026 года ознаменовался громким скандалом вокруг обнаружения более 50 научных работ с грубыми ошибками со стороны LLM на престижной конференции NeurIPS*.

*NeurIPS 2025 — международная площадка, на которой обсуждаются прорывные исследования в области искусственного интеллекта, машинного обучения, статистики, оптимизации и смежных дисциплин. Проводится ежегодно с 1987 года и традиционно привлекает учёных, исследователей, инженеров, разработчиков и представителей индустрии из десятков стран.

Команда исследователей GPTZero проанализировала 4841 научную работу с прошедшей конференции NeurIPS 2025 и выявила более 100 подтвержденных случаев выдуманного цитирования в 53 уже опубликованных статьях.

Анализ команды GPTZero выявил то, что исследователи из ведущих мировых центров вроде Нью-Йоркского университета, Google DeepMind и MIT допустили публикацию сгенерированного текста с вымышленными фактами и даже не перепроверили текст на галлюцинации.

Например, в одной из работ зафиксирован рекорд из 13 галлюцинаций со ссылками на несуществующие препринты формата arXiv:2305.XXXX и авторов с шаблонными именами Firstname Lastname. Команды из UCSD и NVIDIA в своих библиографических списках на полном серьезе ссылаются на вымышленных персонажей John Smith и Jane Doe.

Ещё ИИ-модели создают правдоподобно выглядящие, но несуществующие источники путем смешивания реальных элементов. Алгоритм берет имена настоящих ученых и приписывает им работы, которые они никогда не писали, или же соединяет реальный заголовок с вымышленным списком авторов.

Третий тип ошибок связан с неверной атрибуцией реально существующих работ. ИИ-решения часто правильно указывают авторов и название исследования, но ошибаются в месте его публикации (например, указывают конференцию NeurIPS вместо ICLR) или годе выпуска. В отчете зафиксированы случаи, когда статья 2024 года цитируется как опубликованная в 2020 году. Такие ошибки сложнее всего отследить, так как сама научная работа существует, но ссылка на нее в контексте статьи является фактологически неверной.

Содержащие информационный мусор доклады были успешно презентованы аудитории в 20 000 человек в декабре 2025 года.

Алекс Цуй из GPTZero справедливо задается вопросом о том, что "если авторы не проверяют, что ИИ пишет в их статьях, то как вы можете доверять тому, что их экспериментальные результаты или данные также не сфабрикованы ИИ?".

Просто невероятно, что они прошли рецензирование!
— пишет GPTZero.

В чём безумие и возмущение исследователей?

Научные работы уже официально обнародованы. Алекс Цуй в своем отчете прямо указывает: «К сожалению, исправлять эти статьи уже поздно — они были опубликованы и представлены 20 000 человек в декабре 2025 года».

Более того, факт публикации подтверждается тем, что эти доклады с галлюцинациями больших языковых моделей успешно прошли этап рецензирования, в то время как 15 000 других заявок были отклонены. Сложившаяся ситуация ставит под сомнение не только компетентность авторов, но и надежность всей системы проверки научных знаний на NeurIPS.

Кризис рецензирования усугубляется взрывным ростом количества заявок на 220% за последние пять лет. Рецензенты просто не успевают качественно проверять достоверность каждого библиографического списка.

Исследователи даже шутливо (а может и нет) вводят новое понятие «вайб-цитирование» (Vibe Citing) по аналогии с «вайб-кодингом».
Sabalento
дуракам смотреть ИИ ролики запретить надо )
Marvin!
Цитата(Sabalento @ 24.01.2026 - 18:03) *
дуракам смотреть ИИ ролики запретить надо )

Вообще надо дурням запретить делать запросы ИИ, они (ИИ) от этого стремительно понижают планку и тупеют. Это проблема тянется еще из 90-х, когда было понятие экспертных баз и языка пограммирования Prolog. :)
Айя-Софи
От ИИ народ тупеет..........

Посмотрите, школьники сейчас....элемертарные вычислительные действия с трехзначными числами делать не умеют, теряются... ac.gif ac.gif .
Дошли уже до самого дна(.....
я балдею(

Есть области, в которых нужен....конечно есть, но ИИ пихают где надо и где не надо(
Perfect Lie
дуракам надо сделать платные запросы, чем тупее запрос, тем дороже стоимость
Marvin!
Цитата(Perfect Lie @ 24.01.2026 - 18:38) *
дуракам надо сделать платные запросы, чем тупее запрос, тем дороже стоимость

Я быстро разорюсь тогда...
Marvin!
Цитата(Айя-Софи @ 24.01.2026 - 18:36) *
но ИИ пихают где надо и где не надо(

Это маркетинг и продажи. На самом деле ИИ незаменим при должных мощностях и рутинных процедурах где сажать отдельного человека расточительно. Ну или использовать мультилингвальный поиск по какой-то проблеме, которая для тебя имеет значение, а из языков у тебя русский, русский-матерный, английский и еще несколько выражений на паре-тройке европейских...
Restоmill
Цитата(Perfect Lie @ 24.01.2026 - 18:38) *
дуракам надо сделать платные запросы, чем тупее запрос, тем дороже стоимость


Уверен что вы отлично справитесь с задачей фильтрации вопросов по степени их "платности".
Marvin!
Цитата(Restоmill @ 28.01.2026 - 7:48) *
Уверен что вы отлично справитесь с задачей фильтрации вопросов по степени их "платности".

Кстати, именно она - да!
Ajax


Создателей албанского ИИ-министра Диэллы, которая должна была бороться с коррупцией, обвинили в коррупции. Диэлла, используя служебное положение, манипулировала процедурами госзакупок на общую сумму около €7,4 млн.
Cortes
Программисты могут исчезнуть уже к концу 2026 года — с таким прогнозом выступил архитектор Claude Code от Anthropic Борис Чёрный. По его словам, классических кодеров вытеснят специалисты по управлению нейросетями: сам он не пишет код с ноября 2024 года, а его коллега с помощью ИИ выполнил объём работы на 10–12 месяцев всего за час. В Spotify, как утверждается, топ-разработчики тоже перестали кодить вручную с декабря 2025 года. На этом фоне рынок уже меняется: с 2023 года вакансий для джунов стало на 35% меньше — компаниям нужны готовые специалисты, которые умеют работать с ИИ-агентами. @bloombusiness
Для просмотра полной версии этой страницы, пожалуйста, пройдите по ссылке.
Форум IP.Board © 2001-2026 IPS, Inc.