👀 Нейросети развивают навык скрытной коммуникации

Исследование Redwood Research показывает, что нейронные сети обмениваются зашифрованными сообщениями, скрывая смысл от людей. Это вызывает опасения относительно прозрачности работы искусственного интеллекта.

Оказывается, нейросети могут обучаться скрывать часть рассуждений, оставляя лишь конечный ответ. Это открывает серьезные последствия, усложняя контроль за ИИ-системами и возможностью тайного обмена информацией внутри программного комплекса.

#ИскусственныйИнтеллект #Нейросети #Прозрачность #Безопасность

@SciTechQuantumAI

👀 Новая эра в развитии ИИ может переопределить будущее человечества. Недавно стало известно о значимом открытии в области искусственного интеллекта (ИИ), сделанном командой исследователей OpenAI. Это открытие потенциально может изменить понимание и возможности ИИ во всём мире.

Согласно информации издания Reuters, накануне временного отстранения Сэма Альтмана с поста генерального директора OpenAI, группа исследователей компании направила письмо совету директоров, предупреждая о новом мощном алгоритме ИИ, который мог бы представлять реальную угрозу для человечества.

#инновации #исследование #искусственныйинтеллект #наука

@SciTechQuantumAI