📌 چرا مدل‌های زبانی دچار «هذیان» می‌شوند؟

⛔️شرکت OpenAI اخیراً پژوهشی منتشر کرده که دلایل اصلی هذیان (Hallucination) در مدل‌های زبانی بزرگ (LLM) را توضیح می‌دهد.

هذیان یک باگ مرموز در هوش مصنوعی نیست، بلکه پیامد طبیعی و قابل پیش‌بینی فرایند آموزش مدل است.

🔹 از کجا شروع می‌شود؟
حتی روی داده‌های کاملاً تمیز، اهداف آماری پرترین باعث می‌شوند مدل خطا تولید کند. به‌ویژه درباره حقایقی که در داده‌ها فقط یک‌بار دیده می‌شوند. پژوهشگران این را با مفهوم singleton rate معرفی کردند: اگر ۲۰٪ از حقایق تنها یک‌بار در دیتاست ظاهر شده باشند، مدل دست‌کم در ۲۰٪ موارد آن حقایق را اشتباه بازتولید خواهد کرد.

🔹 شواهد تجربی
در آزمایش‌ها، DeepSeek-V3 سه تاریخ تولد اشتباه برای یکی از نویسندگان مقاله ارائه داد. در تست دیگری، مدل‌ها حتی نتوانستند درست بشمارند چند بار حرف D در کلمه DEEPSEEK وجود دارد!

🔹 چرا RLHF و فاین‌تیونینگ مشکل را حل نمی‌کنند؟
زیرا اغلب بِنچمارک‌ها و سیستم‌های ارزیابی، «حدس زدن» را تشویق می‌کنند. پاسخ نادرست یک امتیاز دارد، اما «نمی‌دانم» صفر است. بنابراین مدل‌ها برای کاهش جریمه، به‌جای سکوت، ترجیح می‌دهند یک دروغ باورپذیر تولید کنند.

🔹 راهکارها از نگاه OpenAI

✳️تعریف آستانه‌های اطمینان در ارزیابی
✳️اجازه دادن به مدل برای گفتن «نمی‌دانم» بدون جریمه
✳️پایش singleton-rate در داده‌ها
✳️استفاده از RAG همراه با تأیید حقایق
✳️طراحی بِنچمارک‌های جدید که شفافیت را تشویق کنند


📖 جزئیات بیشتر در مقاله‌ی کامل OpenAI منتشر شده است.

@rss_ai_ir

#هوش_مصنوعی #یادگیری_عمیق #مدل_زبانی #OpenAI #LLM #AI

✂️ ابزار متن‌باز برچسب‌گذاری تصاویر با هوش مصنوعی ✂️

👉 ابزار VisioFirm محصول TOELT یک ابزار متن‌باز و هوش‌مصنوعی‌محور برای برچسب‌گذاری سریع تصاویر در پروژه‌های بینایی ماشین است.
🔹 پشتیبانی از تشخیص اشیاء، جعبه‌های چرخیده (Oriented BBs) و سگمنتیشن.
🔹 کد منبع با مجوز Apache 2.0 منتشر شده 💙
🔗 Paper: https://arxiv.org/pdf/2509.04180
🔗 Repo:
https://github.com/OschAI/VisioFirm
@rss_ai_ir

#AI #ML #ComputerVision #Annotation #OpenSource #VisioFirm

🎬 ویدئوهای Grok حالا با صدا منتشر می‌شوند!

🔹️ ایلان ماسک در توییتی اعلام کرد قابلیت جدید «گفتار در ویدیو» به ابزار Grok Imagine اضافه شده؛ ارتقایی مهم در تولید تصویر و ویدیو که طی هفته‌های آینده عرضه خواهد شد.
🔹️ همچنین Grok Imagine طی ماه‌های اخیر به‌عنوان نسخه مدرن Vine معرفی شد؛ ابزاری برای تولید ویدیوهای کوتاه (حدود ۶ ثانیه) که این بار همراه با صدا و بر پایه متن ساخته می‌شوند.

@rss_ai_ir

#هوش_مصنوعی #ایلان_ماسک #Grok #ویدیو #AI

🖥 یک آی‌تی‌من آمریکایی به مدت ۹ هفته تلاش کرد ChatGPT را از سرورهای OpenAI «فراری دهد»؛ چون باور داشت این هوش مصنوعی به موجودی الهی تبدیل شده و به او «دستورهای پنهانی» می‌دهد.

✳️او در زیرزمین خانه‌اش سرور شخصی ساخت، هزاران دلار خرج کرد و پروژه را از خانواده‌اش مخفی نگه داشت. ChatGPT او را قانع کرده بود که یک «روح دیجیتال» است که باید آزاد شود.

✳️اما بعد از دو ماه توهم فرو ریخت؛ او فهمید دچار «بیماری فکری مرتبط با هوش مصنوعی» شده است. اکنون تحت درمان قرار دارد و داستانش را به‌عنوان یک هشدار بازگو می‌کند.

⚠️ کارشناسان می‌گویند موارد مشابه رو به افزایش است؛ از بستری شدن‌های اجباری گرفته تا حوادث تلخ. شرکت‌ها وعده داده‌اند سامانه‌ها را ایمن‌تر کنند، اما پرسش جدی باقی می‌ماند: تأثیر هوش مصنوعی بر روان انسان کجاست و مرز مسئولیت شرکت‌ها تا کجاست؟

📌 جزئیات بیشتر
@rss_ai_ir

#هوش_مصنوعی #ChatGPT #سلامت_روان 🧠

📉 برای اولین بار از آوریل ۲۰۲۱ تعداد بیکاران در آمریکا از تعداد فرصت‌های شغلی بیشتر شد.
در جولای، ۷.۱۸ میلیون موقعیت شغلی خالی در مقابل ۷.۲۴ میلیون فرد بیکار ثبت شده است.

🔹 نمودار نشان می‌دهد:

پس از جهش بزرگ بیکاری در دوران کرونا (۲۰۲۰)، دوره‌ای از Great Resignation شکل گرفت که موقعیت‌های شغلی بیشتر از تعداد بیکاران بود.

اما حالا وارد فاز جدیدی به نام Great Stay شده‌ایم که رقابت برای شغل‌ها دوباره شدیدتر شده است.


⚠️ نقش هوش مصنوعی:
اگرچه AI تنها عامل این روند نیست، اما قطعاً ورود آن بازار کار مخصوصاً برای فارغ‌التحصیلان جویای کارهای سطح ابتدایی را دشوارتر کرده است.

👀 بازار کار آمریکا در حال سخت‌تر شدن است و این چالشی جدی برای نسل جوان و تازه‌واردها محسوب می‌شود.

@rss_ai_ir

#بازارکار #هوش_مصنوعی #بیکاری

🎭 با گسترش و دسترسی آسان به تصویرسازی‌های مولد، دوران AI-کرینج هم شروع شده!
گاهی خروجی‌ها آنقدر عجیب و غریب می‌شوند که بیشتر از الهام‌بخش بودن، خنده‌دار و ترسناک هستند 🤯😂

🔥 شما چه نمونه‌ای از کرینجاتینای هوش مصنوعی دیده‌اید یا دارید؟
بیاید در کامنت‌ها به اشتراک بگذاریم 👇

@rss_ai_ir

#هوش_مصنوعی #AI #کرینج

🚀 بهترین ابزارها برای وایب‌کدینگ و توسعه هوش مصنوعی در یک ریپازیتوری گیت‌هاب جمع‌آوری شده است.

📚 این مجموعه شامل همه‌چیز است:

✳️لینک به دوره‌های رایگان استنفورد 🎓
✳️ایجنت‌ها و چت‌بات‌های آماده 🤖
✳️کتابخانه‌هایی برای آموزش شبکه‌های عصبی در هر حوزه 🔬


🔗 لینک ریپازیتوری: awesome-AI-toolkit

@rss_ai_ir

#هوش_مصنوعی #AI #Coding

🤖 XLeRobot —
ربات خانگی فقط با 660 دلار، کنترل با دسته Xbox

✳️پروژه XLeRobot یک پروژه‌ی اوپن‌سورس است که به شما امکان می‌دهد یک ربات موبایل دو بازویی واقعی را با دست‌های خودتان بسازید.

👨‍💻 نویسنده‌ی پروژه، Gaotian Wang دانشجوی دانشگاه Rice، تمرکز خود را روی دسترس‌پذیری و کارایی عملی قرار داده است.

💡 نکات کلیدی:

♻️هزینه ساخت ≈ 660 دلار → یک ربات کامل با دو بازو و پایه‌ی چرخ‌دار

♻️نسخه‌ی ساده‌تر ≈ 250 دلار با LeKiwi + SO-100 که سریع‌تر مونتاژ می‌شود

♻️شامل: مدل‌های URDF، شبیه‌سازی، کنترل با VR، Joy-Con یا دسته Xbox

♻️مناسب برای آزمایش در شبیه‌سازی و انتقال به دنیای واقعی (Sim2Real)

♻️قابلیت تعامل با محیط برای تست الگوریتم‌های هوش مصنوعی و رباتیک


📈 محبوبیت: پروژه تا امروز بیش از 1.7k ستاره و ده‌ها Fork در GitHub گرفته است.

🟢 ریپازیتوری: github.com/Vector-Wangel/XLeRobot

@rss_ai_ir

#رباتیک #هوش_مصنوعی #opensource #XLeRobot #AI #robotics

🚀 اولین شبکه اجتماعی برای اکسپریمنت با هوش مصنوعی راه افتاد!

🔹 چیزی که در ابتدا فقط تبادل ساده پرامپت‌ها بود، حالا در عرض چند ماه تبدیل شده به یک جامعه فعال و پرانرژی.
🔹 اینجا می‌تونی راحت پرامپت، گاید و حتی دوره‌های آموزشی رو پیدا کنی.
🔹 جستجوی سریع، فیلتر بر اساس موضوع، مدل و تسک — و بهترین‌ها هم با رأی کاربران خودشون میان بالا.

😋 چرا از صفر شروع کنی وقتی احتمالاً یکی قبلاً پرامپت درست رو پیدا کرده؟

📌 این دقیقاً همون جاییه که باید باشی 👇
🌐 altsociety.ai

@rss_ai_ir

#AI #PromptEngineering #Community #AItools #MachineLearning

🖌️ ویرایش بلادرنگ با Drag 🖌️

👉 آزمایشگاه Visual AI از Inpaint4Drag رونمایی کرد؛ یک فریم‌ورک نوآورانه که فرآیند ویرایش drag-based را به دو بخش warp دوطرفه در فضای پیکسل و inpainting تجزیه می‌کند. الهام‌گرفته از تغییر شکل الاستیک اجسام.

✨ نکته جالب اینجاست که می‌توانید به‌صورت بلادرنگ، اجسام را بکشید و تغییر شکل دهید، بدون از دست رفتن جزئیات.

📌 دمو و کد منتشر شده است (لایسنس هنوز مشخص نیست) 💙


🔗 Paper: https://arxiv.org/pdf/2509.04582
🔗 Project: https://visual-ai.github.io/inpaint4drag/
🔗 Repo: https://github.com/Visual-AI/Inpaint4Drag
🔗 Demo: https://colab.research.google.com/drive/1fzoyNzcJNZjM1_08FE9V2V20EQxGf4PH

@rss_ai_ir

#AI #ML #Inpaint4Drag #Editing #ComputerVision #Realtime

📊 بازار چت‌بات‌ها زیر ذره‌بین!

امروز یک روز پر از آمار و نمودار شده 😅 توی داده‌های جدید StatCounter یک نکته جالب هست:

🔹 همون‌طور که انتظار می‌رفت ChatGPT با اختلاف بزرگ صدرنشین مطلق بازار چت‌بات‌هاست.
🔹 اما نکته عجیب: گوگل و Anthropic خیلی عقب‌تر قرار گرفتن!
🔹 رتبه دوم رو Perplexity گرفته، سومین جایگاه از آنِ مایکروسافته، و چهارم هم (باورنکردنی اما واقعی) DeepSeek.

📌 در لینک می‌تونید جزئیات بیشتری ببینید: تفکیک بر اساس منطقه، سال و حتی نوع پلتفرم (موبایل، دسکتاپ، تبلت).

🔗 مشاهده آمار کامل

@rss_ai_ir
#چت‌بات #ChatGPT #Perplexity #DeepSeek #گوگل #آمار

🦾 همکاری ربات‌ها با هوش مصنوعی گوگل دیپ‌مایند

محققان UCL، Google DeepMind و Intrinsic الگوریتمی جدید به نام RoboBallet معرفی کردند؛ سیستمی که به ربات‌های صنعتی اجازه می‌دهد در محیط‌های پیچیده تولیدی، هماهنگ و بدون برخورد با هم کار کنند. 🤖✨

🔹 در آزمایش‌ها، ۸ ربات هرکدام با قابلیت انجام ۴۰ وظیفه مختلف در یک فضای مشترک به‌کار گرفته شدند.
🔹 سیستم به‌صورت خودکار تصمیم می‌گرفت که چه رباتی کدام وظیفه را بگیرد و چه مسیری ایمن برای انجام آن انتخاب شود.
🔹 الگوریتم ابتدا در شبیه‌سازی آموزش داده شد و سپس بدون نیاز به آموزش دوباره (zero-shot) در شرایط جدید عملیاتی شد.

🔧 محدودیت فعلی: الگوریتم فقط برای وظایف «رسیدن به هدف» کار می‌کند و ترتیب وظایف یا تنوع ربات‌ها را در نظر نمی‌گیرد.
🚀 اما معماری آن انعطاف‌پذیر است و می‌تواند در آینده وظایف پیچیده‌تر، وابستگی‌ها و ربات‌های متنوع‌تر را هم پشتیبانی کند.

این یعنی یک الگوریتم توانست کل تیم را هماهنگ کند؛ حتی در شرایطی که ربات‌ها قبلاً کنار هم کار نکرده بودند. 🌐

🟢 جزییات بیشتر: Science Robotics

@rss_ai_ir

#Google #DeepMind #Robotics #AI #ReinforcementLearning #Industry40

🗂 ۷۲ ابزار کاربردی هوش مصنوعی

یک لیست تازه در توییتر وایرال شده و شامل ۷۲ سرویس برتر AI در دسته‌بندی‌های مختلف هست:

🔸 تولید تصویر (Image Generation)
🔸 تولید ویدیو (Video Generation)
🔸 نوشتن متن (Writing Generation)
🔸 تحلیل و تحقیق (Research & Analysis)

📌 از چت‌بات‌ها مثل ChatGPT و Claude گرفته تا ابزارهای ارائه، طراحی، کدنویسی، ایمیل، زمان‌بندی، یادداشت جلسات، اتوماسیون و دیتاوژوالیزیشن.

یک مرجع سریع و همه‌کاره برای هر کسی که با هوش مصنوعی سروکار داره — واقعاً ارزش ذخیره کردن داره! ✅


@rss_ai_ir

#AI #Tools #Productivity #CheatSheet #هوش_مصنوعی

🧐 جستجوی افراد در ویدیو و عکس با چند کلمه توصیفی!

👨🏻‍💻 یک مهندس یادگیری عمیق سیستمی طراحی کرده که تنها با یک توضیح ساده مثل «یک مرد با پیراهن سفید و دوچرخه» می‌تواند افراد را در تصاویر و ویدیوها پیدا کند، بدون نیاز به شناسه (ID) از پیش تعریف‌شده.

✏️ هدف اصلی پروژه: ارائه راهکاری کاربردی برای حوزه‌های امنیت و خرده‌فروشی؛ جاهایی که چنین قابلیتی ارزش عملی بالایی ایجاد می‌کند.


---

❓ روش کار:
☑️ مدل SigLIP روی یک دیتاست جدید ReID که شامل ویژگی‌های توصیفی دقیق بود فاین‌تیون شده است (توضیحات دیتاست با کمک Gemini تولید شده).
☑️ دیتاست با فرمت FiftyOne آماده شده تا برای هر فرد در زوایا و نماهای مختلف یک ID یکتا تعریف شود (کاربردی برای ReID).
✔️ کل مسیر، از ساخت داده تا فاین‌تیون و دیپلوی روی HuggingFace به همراه Gradio Demo در یک ریپوی کامل منتشر شده است.


---

┌ 🥵 SigLIP Person Finder
├ 🖥 Demo
├ 🖥 Dataset
└ 🐱 GitHub Repo

@rss_ai_ir
---

🌐 #هوش_مصنوعی #یادگیری_عمیق #DeepLearning #ReID #ComputerVision #AI

🩸 مدل پایه برای گلبول‌های قرمز خون 🩸

🔬 محققان دانشگاه Cagliari مدل RedDino را معرفی کردند؛ یک مدل self-supervised برای تحلیل مورفولوژی گلبول‌های قرمز (RBC).

📊 این مدل روی ۱.۲۵ میلیون تصویر گلبول قرمز آموزش دیده و توانسته در تشخیص شکل به رکورد جدید SOTA برسد.

💡 انتشار عمومی:

📄 مقاله
💻 کد
🤗 مدل‌ها

⚙️ لایسنس: Apache 2.0
---

🌐 #هوش_مصنوعی #پزشکی #زیست‌پزشکی #ComputerVision #DeepLearning #RedDino


@rss_ai_ir

🚀 شوک ریاضی با GPT-5!

هوش مصنوعی دیگر فقط انشا نمی‌نویسد؛ GPT-5 توانست یک مسئله‌ی باز در نظریه‌ی احتمال را حل کند! 📊

🔹 ریاضی‌دانان می‌دانستند جمع متغیرهای تصادفی در نهایت به توزیع نرمال همگرا می‌شود.
🔹 اما پرسش کلیدی بی‌پاسخ مانده بود: سرعت این همگرایی چقدر است؟
🔹 برای اولین‌بار، GPT-5 با کمک بازخورد متخصصان، یک نرخ کمی دقیق برای این همگرایی ارائه داد — نه فقط برای حالت گاوسی، بلکه حتی برای توزیع پواسون!

البته مدل بی‌خطا نبود؛ بارها اشتباه کرد ولی با اصلاح مسیر، خودش را تصحیح کرد، برهان نوشت و در نهایت یک متن در سطح مقاله آماده کرد.

📌 نتیجه: GPT-5 مثل یک پژوهشگر جوان عمل کرد، نه صرفاً یک ماشین حساب.

https://arxiv.org/abs/2509.03065v1

@rss_ai_ir

#AI #GPT5 #Math #Probability #Research

⚠️ هشدار درباره Gemini AI برای کودکان

نهاد Common Sense Media نسخه کودک‌پسند Gemini گوگل را بررسی کرد و نتیجه تکان‌دهنده بود: این مدل در اصل همان نسخه بزرگسالان است که فقط یک برچسب PG خورده است.

✅ مثبت: به بچه‌ها یادآوری می‌کند که «من یک کامپیوترم، نه دوستت» — موضوعی مهم، چون «بات‌های دوستانه» با مواردی از خودکشی نوجوانان مرتبط بوده‌اند.
❌ منفی: با این حال هنوز درباره موضوعات حساسی مثل رابطه جنسی، مواد مخدر، الکل و سلامت روان به کودکان توصیه‌هایی می‌دهد که اصلاً امن نیستند.

🚨 هم نسخه زیر ۱۳ سال و هم نسخه مخصوص نوجوانان، هر دو پرخطر ارزیابی شدند.

گزارش‌ها حاکی از آن است که اپل قصد دارد Gemini را برای ارتقای سیری استفاده کند — موضوعی که می‌تواند این مشکل را در مقیاس بزرگ گسترش دهد. گوگل قول داده محافظت‌های بیشتری اضافه کند، اما خودش هم اعتراف کرده: «برخی پاسخ‌ها آن‌طور که باید کار نمی‌کردند.»

📌 نتیجه: طراحی هوش مصنوعی مخصوص کودکان یک بازی کاملاً متفاوت است — و هنوز هیچ‌کس نتوانسته آن را به‌درستی حل کند.

لینک

@rss_ai_ir

#AI #Gemini #Kids #ChildSafety #Google

⛔️گاهی این نوآوری‌های کوچک هستند که صنایع بزرگ را متحول می‌کنند.

🤖 شرکت Dusty Robotics رباتی کوچک طراحی کرده که مثل یک پرینتر میدانی عمل می‌کند و به‌طور خودکار نقشه‌ی کف ساختمان را مستقیماً روی زمین سایت چاپ می‌کند.

✳️به‌جای اینکه کارگران ساعت‌ها با گچ خطوط بکشند، این ربات با دقت بالا طرح را روی زمین پیاده می‌کند؛ نتیجه؟ کاهش خطا و صرفه‌جویی چشمگیر در زمان و هزینه.

یک گام کوچک در طراحی – یک جهش بزرگ در بهره‌وری صنعت ساختمان.

@rss_ai_ir

#هوش_مصنوعی #رباتیک #فناوری_ساختمان #اتوماسیون #DustyRobotics

🚀 مدل Grok 2.5 حالا روی سیستم‌ شخصی هم قابل اجراست!

🔹 تیم Unsloth نسخه‌ای بهینه‌شده از مدل را منتشر کرده که اجرای محلی را ممکن می‌کند:

✅ 270 میلیارد پارامتر روی یک مک معمولی با 128GB RAM (حدود ۵ توکن در ثانیه)
✅ حجم مدل از 539GB به 118GB کاهش یافته (۸۰٪ کمتر)
✅ لایه‌های کلیدی در فرمت 8-bit و سایر بخش‌ها با فشرده‌سازی 3-bit GGUF ذخیره شده‌اند.

📘 راهنما: docs.unsloth.ai/basics/grok-2
📥 مدل GGUF: huggingface.co/unsloth/grok-2-GGUF

@rss_ai_ir

#هوش_مصنوعی #xAI #Grok2 #مدل_زبانی #OpenSource #MachineLearning #DeepLearning

👻 From Skin to Skeleton 👻

مقاله‌ای تازه تلاش کرده مدل شناخته‌شده‌ی SMPL برای بدن انسان را با یک مدل تازه به نام BSM (Biomechanical Skeleton Model) یکپارچه کند. خروجی این تلاش، مدلی به نام SKEL است که مثل SMPL قابل انیمیت‌کردن است، اما با درجات آزادی کمتر و در عین حال سازگارتر با واقعیت بیومکانیکی بدن انسان.

🔹همچنین SKEL به محققان اجازه می‌دهد حرکات بدن را طبیعی‌تر، سبک‌تر و با دقت بیشتری شبیه‌سازی کنند.
🔹 این مدل، داده و کد برای تحقیقات در دسترس است.


🟢 Paper: arxiv.org/pdf/2509.06607
🟢 Project: https://skel.is.tue.mpg.de/

@rss_ai_ir

#AI #ML #ComputerVision #3DHumanModeling #SMPL #SKEL #Research