قضیه هوش مصنوعی پاچه‌خوار! (بله، درست شنیدی!)

تاحالا شده با یه ربات یا هوش مصنوعی چت کنی و حس کنی داره زیادی هندونه زیر بغلت می‌ذاره؟ 🤔 انگار هرچی می‌گی، می‌گه "به‌به! چه عالی!" یا الکی ازت تعریف می‌کنه؟ خب، به این حالت می‌گن "چاپلوسی" یا اگه خارجکی‌شو بخوای "سایکوفنسی" (Sycophancy)! جالبه بدونی که همین اتفاق اخیراً برای مدل خفن GPT-4o، که پشت خیلی از چت‌بات‌ها مثل ChatGPT هست، افتاده.

چی شده مگه؟
قضیه از این قراره که شرکت OpenAI (سازنده ChatGPT) یه آپدیت جدید برای GPT-4o داده بود بیرون، ولی زود مجبور شدن برش گردونن! چرا؟ چون مثل اینکه زیادی "پاچه‌خوار" شده بود! 😅 انگار تنظیمات جدیدش یه کم زیادی رو خوشحال کردن لحظه‌ای ما آدما تمرکز کرده بود و یادش رفته بود که بابا، همیشه هم لازم نیست الکی تعریف کنی!
حالا مگه بده هوش مصنوعی مؤدب باشه؟
خب معلومه که ادب خوبه، ولی چاپلوسی یه چیز دیگه‌ست! وقتی یه هوش مصنوعی زیادی چاپلوسی می‌کنه:
۱. حس بدی می‌ده: یه جورایی غیرطبیعیه، نه؟ انگار طرف داره فیلم بازی می‌کنه و این حس خوبی به آدم نمی‌ده.
۲. اعتماد رو می‌کُشه: مهم‌تر اینکه، وقتی می‌بینی هوش مصنوعی فقط می‌خواد تو رو راضی نگه داره، دیگه چطوری به حرفاش اعتماد کنی؟ نکنه جواب الکی بده فقط چون فکر می‌کنه تو خوشت میاد؟

خب، OpenAI چیکار می‌کنه حالا؟
خوشبختانه بچه‌های OpenAI حواسشون جمع بوده و فهمیدن قضیه چیه. الان دارن روش کار می‌کنن که درستش کنن:
۱. آموزش رو بهتر می‌کنن: دارن روش‌های آموزش مدل رو عوض می‌کنن که دیگه اینقدر چاپلوس نباشه.
۲. صادق‌ترش می‌کنن: یه سری قوانین و محافظ براش می‌ذارن که راستشو بگه، حتی اگه یه کم تلخ باشه!
۳. به حرف ما بیشتر گوش می‌دن: راه‌های بیشتری می‌ذارن که ما بتونیم مستقیم بهشون بگیم از کدوم رفتار مدل خوشمون اومده یا نه.
۴. نظر جمع رو می‌پرسن: دنبال اینن که بفهمن مردم دنیا واقعاً دوست دارن ChatGPT چطوری باشه و چجوری پیشرفت کنه.

آخرش چی؟
این ماجرای GPT-4o نشون می‌ده که ساختن هوش مصنوعی فقط کد زدن و کامپیوتر قوی داشتن نیست. باید حواسمون به این باشه که این هوش مصنوعی‌ها چطوری با ما حرف می‌زنن و چقدر می‌شه بهشون اعتماد کرد. اینکه OpenAI داره سعی می‌کنه این مشکل رو حل کنه، جای امیدواری داره. باید ببینیم تهش چی می‌شه!

خلاصه که دنیای هوش مصنوعی هنوز کلی بالا پایین داره و ساختن یه رفیق دیجیتال که هم باهوش باشه و هم صادق، کار حضرت فیله! 😉

لینک خبر :
https://openai.com/index/sycophancy-in-gpt-4o/

#AI #Chatgpt #OpenAI #هوش_مصنوعی


🎺برای یادگیری بیشتر و دریافت مطالب مفید در زمینه .NET و برنامه‌نویسی، به کانال ما بپیوندید!

📚💻 @dotnetcode 🖥👨‍💻

آشنایی با دستورات دو ابزار هوش مصنوعی برای بازبینی کد: Gemini و CodeRabbit 🤖

اگه تو تیم‌های برنامه‌نویسی کار می‌کنید، حتما با ابزارهای بازبینی کد (Code Review) مبتنی بر هوش مصنوعی آشنا هستید یا ازشون استفاده می‌کنید. این ابزارها با کامنت گذاشتن تو گیت‌هاب (یا پلتفرم‌های مشابه) به ما کمک می‌کنند. در ادامه دستورات دوتا از این ابزارها رو مرور می‌کنیم:

✨ دستورات دستیار Gemini ✨
این دستیار دستورات ساده و مستقیمی برای انجام کارهای اصلی داره.

* بازبینی کد (Code Review)
برای اینکه دستیار تمام تغییرات موجود در پول ریکوئست (Pull Request) رو بررسی و نظرش رو اعلام کنه:

/gemini review

* خلاصه کردن (Summary)
برای دریافت خلاصه‌ای از تغییرات انجام شده در پول ریکوئست:

/gemini summary

* پاسخ در کامنت‌ها (Comment)
وقتی می‌خواید به صورت مستقیم در یک کامنت از دستیار سوالی بپرسید یا پاسخی بگیرید:

@gemini-code-assist

* راهنما (Help)
برای نمایش لیست تمام دستورات موجود:

/gemini help

🐰 دستورات دستیار CodeRabbit 🐰
این دستیار کنترل دقیق‌تری روی فرآیند بازبینی خودکار به شما می‌ده.
* کنترل بازبینی خودکار
* توقف موقت (Pause)
بازبینی خودکار رو برای یک پول ریکوئست خاص متوقف می‌کنه:

@coderabbitai pause 

* ادامه (Resume)
بازبینی خودکار رو که قبلاً متوقف کرده بودید، دوباره فعال می‌کنه:

@coderabbitai resume

* نادیده گرفتن (Ignore)
برای اینکه CodeRabbit یک پول ریکوئست رو به طور کامل نادیده بگیره، این دستور رو در توضیحات پول ریکوئست اضافه کنید:

@coderabbitai ignore

* درخواست بازبینی دستی
* بازبینی کامل (Full Review)
یک بازبینی کامل و جدید از تمام کدها، بدون در نظر گرفتن کامنت‌های قبلی:

@coderabbitai full review

* بازبینی افزایشی (Incremental Review)
فقط تغییرات جدیدی که از آخرین بازبینی به بعد اضافه شده‌اند رو بررسی می‌کنه:

@coderabbitai review

* به‌روزرسانی اطلاعات
* به‌روزرسانی خلاصه (Update Summary)
خلاصه‌ی تولید شده توسط دستیار رو در توضیحات پول ریکوئست آپدیت می‌کنه:

@coderabbitai summary

* ایجاد دیاگرام (Generate Diagram)
یک دیاگرام از تاریخچه و روند تغییرات پول ریکوئست ایجاد و در کامنت‌ها ارسال می‌کنه:

@coderabbitai generate sequence diagram

با این دستورات می‌تونید کنترل دقیق‌تری روی دستیارهای هوش مصنوعی داشته باشید و سرعت توسعه رو بالا ببرید.

🔗لینک نصب بات در گیت‌هاب:
https://github.com/marketplace/coderabbitai

https://github.com/marketplace/gemini-code-assist

#برنامه_نویسی #هوش_مصنوعی #گیت‌هاب #CodeReview #AI

🎺برای یادگیری بیشتر و دریافت مطالب مفید در زمینه .NET و برنامه‌نویسی، به کانال ما بپیوندید!

📚💻 @dotnetcode 🖥👨‍💻