⏺ Почему ИИ врёт с умным видом

OpenAI опубликовали новый ресёрч: оказалось, нейросети галлюцинируют не потому что сошли с ума, а потому что их учили угадывать ответы, а не честно признавать незнание.

Это как на экзамене: не знаешь ответ, пишешь хоть что-то, надеясь угадать и получить балл. Если же написать «не знаю» — гарантированно ноль. Нейросети действуют по тому же принципу.

Проблема в том, что нынешние бенчмарки оценивают модели по количеству правильных ответов. В такой системе выгоднее выглядеть уверенным и говорить что угодно, чем осторожно признать «я не знаю». Поэтому OpenAI предлагает менять правила: штрафовать за чушь и поощрять честность. В тестах новая модель чаще молчит, но и в три раза реже врёт.

💬 Выходит, галлюцинации — это не баг, а закономерность обучения. Будущее, возможно, за ботами, которые чаще скажут «я не уверен», но зато не будут обманывать. Я бы такому доверял.

⚡️ — лучше молчать, чем врать
🤖 — пусть фантазирует, иногда это полезно

Адам-Сергей | ИИ и нейросети

#этика_ии
#ии_в_жизни

⏺ Общение мыслями

Стартап AlterEgo показал прототип, где команды можно отдавать «мысленно». На виске прищепка с датчиками, от неё тянется провод — выглядит как киберпанк из 90-х, но работает: устройство считывает сигналы и превращает их в команды для голосового ассистента.

Да, пока это больше лаборатория, чем продукт. Но думаю, что будущее интерфейсов уже здесь, просто ещё с проводами и странным дизайном.

⚡️ — хочу попробовать хоть в таком виде
💔 — выглядит крипово

Адам-Сергей | ИИ и нейросети

#инструменты_ии
#ии_в_жизни

⏺ OpenAI запускает LinkedIn для AI

Компания анонсировала OpenAI Jobs Platform — сервис для поиска сотрудников, которые умеют работать с искусственным интеллектом. Работодатели смогут находить специалистов любого уровня: от новичков до экспертов по промпт-инжинирингу. Платформа будет сама подбирать идеальные совпадения между задачами бизнеса и навыками кандидатов.

Чтобы подтвердить знания, OpenAI введёт собственную сертификацию. Её можно будет пройти прямо в ChatGPT через режим Study mode.

💬 Запуск ожидается в 2026 году. И можно не сомневаться — 500 стартапов, которые занимались наймом и обучением AI-специалистов, рискуют закрыться. OpenAI постепенно забирает себе рынок целиком. Я думаю, это будет шагом к тому, чтобы умение работать с AI стало обязательным навыком, как владение компьютером или английским языком.

⚡️ — наконец-то нормальный отбор специалистов
🧠 — опять монополия, всё в одни руки

Адам-Сергей | ИИ и нейросети

#ии_в_бизнесе
#инструменты_ии