شرکت OpenAI گفته تعدادی حساب کاربری ChatGPT که متعلق به گروه‌های هکری روسی، چین و ایران بودن رو مسدود کرده، این گروه‌ها از مدل‌های OpenAI برای توسعه تروجان ویندوزی و چیزهای دیگه استفاده میکردن مثلا یه گروهشون تروجان‌هایی‌رو با زبان Go نوشتن و خروجیش در قالب یک ابزار معروف به اسم Crosshair X داخل بازی‌های ویندوزی مخفی میکردن. (بازی‌هایی که غیر قانونی تهیه میشه و توی سایت‌ها به صورت دانلودی هست)

وقتی کاربری نسخه آلوده رو دانلود میکنه، یک لودر روی سیستمش نصب میشه و فایل‌های مخرب بیشتری رو از یک سرور خارجی دانلود و اجرا میکنه، بعد به صورت مخفیانه روی سیستم ماندگار میشه جوری که کاربر متوجه نشه و بتونه برای زمان زیادی اطلاعات رو سرقت کنه.

عملیات Storm-2035 (مرتبط با ایران): این گروه از مدل‌های OpenAI برای تولید کامنت‌های کوتاه به زبان‌های انگلیسی و اسپانیایی استفاده می‌کرد. این کامنت‌ها در حمایت از حقوق لاتین‌تبارها، استقلال اسکاتلند، اتحاد مجدد ایرلند و حقوق فلسطینیان و همچنین در ستایش قدرت نظامی و دیپلماتیک ایران بودند و توسط حساب‌های کاربری جعلی که خود را ساکن آمریکا، بریتانیا، ایرلند و ونزوئلا جا می‌زدند، در پلتفرم ایکس منتشر می‌شدند. [L]

🤓 @geekalerts

هوش مصنوعی تو کدنویسی: تجربه بی‌تعارف!

مدت‌ها بود دلم می‌خواست در مورد تجربه‌هام و ابزارهایی که تو زمینه هوش مصنوعی برای کدنویسی استفاده می‌کنم، بنویسم. ولی خب، تو یه منطقه امن بودم و نیاز داشتم کلی چیزهای مختلف رو تو بازه‌های زمانی متفاوت تست کنم تا بتونم یه قضاوت درست و حسابی داشته باشم.

این روزها که بازار هوش مصنوعی داغه، شرکت‌های مختلف با انتشار بنچمارک‌های جورواجور، حسابی تو بوق و کرنا هستن و می‌خوان بهت ثابت کنن که با محصول اونا، بهره‌وری تو کدنویسی می‌ره بالا و دیگه نیازی نیست خودت کد بزنی. بذارین همین الان، بی‌مقدمه، ته قضیه رو براتون رو کنم: تو کوتاه‌مدت آره، بهره‌وری می‌ره بالا، ولی تو بلندمدت نه، و حتی ممکنه بهره‌وریت بیاد پایین. حالا چطوری؟

"بیخیال، بذار خودم فکر کنم!"

جز اون وقتا که یه کار واقعاً روتین دارم – کارهایی که سر و تهشون رو دقیق می‌دونم، می‌دونم چی باید چطوری نوشته بشه، و انقدر مطمئنم که اطلاعاتی که ابزار تکمیل خودکار هوش مصنوعی داره دقیقه که با زدن چندتا `Tab`، نیازی به نوشتن اون کدهای تکراری و تغییرات مشخص نیست – تو بقیه وقتا، بجز اون تکمیل خودکار پیش‌فرض و کلاسیک IDEام، بقیه ابزارهای هوش مصنوعی خاموش هستن. می‌پرسی چرا؟

خب، وقتی دارم یه مسئله‌ای رو حل می‌کنم یا حجم کدی که قراره تغییر کنه زیاده، مغزت نمی‌تونه همزمان هم روی این تمرکز کنه که الان باید چیکار کنه و هم تحلیل کنه چیزی که هوش مصنوعی داره پیشنهاد می‌ده درسته یا نه. بارها ممکنه پیش بیاد یه کدی هوش مصنوعی بهت پیشنهاد بده، تو دکمه `Tab` رو بزنی و کد هم به ظاهر درست باشه، ولی پسر! همونجایی که باید کار کنه، کار نمی‌کنه و باید تازه بری دیباگ کنی ببینی هوش مصنوعی چی زده. این کار چندین برابر ازت وقت و انرژی می‌گیره تا اینکه از اول با درک کامل خودت، درستش رو می‌زدی. پس اینجا به جای افزایش بهره‌وری، ممکنه با کاهشش روبرو بشی.

"ساختار رو به هم نریز!"

خیلی باحاله که یه چت‌بات کنار دستت باشه و فایل‌هات رو بهش بدی و براش با چند خط متن نوشتن به زبون خودمونی، خودش بره تغییرات رو انجام بده و تنها کاری که تو باید بکنی اینه که بزنی رو دکمه تایید؟ آره، باحاله و کمک‌کننده‌ست، ولی فقط وقتی کمک‌کننده‌ست که دقیقاً خودت از ساختار خبر داشته باشی، بدونی چی رو به چه روشی باید حل کرد و قدم به قدم بتونی برای مدل‌های زبانی توضیح بدی تا لازم نباشه با فرضیات خودش و تغییر ساختار، مسئله‌ای رو حل کنه و ساختارت رو به هم بریزه. وگرنه مجبور می‌شی تمام تغییرات رو برگردونی و از اول انجام بدی.

چه تجربه‌ای که با ابزاری مثل Cursor داشتم و چه تجربه بقیه، اگه خودت ندونی دقیقاً چی می‌خوای و انتظار معجزه از هوش مصنوعی داشته باشی یا بخوای تغییرات زیادی تو پروژه‌ت ایجاد کنه، احتمال تولید کد اشتباه یا حتی تغییر ساختار فعلی به سلیقه خودش افزایش پیدا می‌کنه.

حرف آخر و یه دید کلی

به نظر من، هوش مصنوعی تو کدنویسی یه ابزار خیلی قویه، ولی مثل هر ابزار دیگه‌ای، اینکه چقدر ازش بهره‌وری ببری، به مهارت و درک خودت بستگی داره. برای کارهای روتین و تکراری، هوش مصنوعی می‌تونه یه موتور جت باشه! اما برای حل مسائل پیچیده، طراحی معماری یا ایجاد تغییرات ساختاری بزرگ، تکیه کردن به هوش مصنوعی بدون درک عمیق، می‌تونه منجر به تولید کدهای مشکل‌دار، نیاز به دیباگینگ طولانی‌تر و در نهایت کم شدن بهره‌وریت بشه.

نکته اصلی برای استفاده موثر از هوش مصنوعی تو کدنویسی این نیست که برنامه‌نویس رو کلاً بندازه کنار، بلکه اینه که توانایی‌هاش رو چند برابر کنه. یعنی برنامه‌نویس باید همچنان مرکز تصمیم‌گیری و درک عمیق از پروژه باشه و از هوش مصنوعی به عنوان یه دستیار باهوش برای سرعت بخشیدن به کارهای تکراری و پیشنهاد راه‌حل‌ها استفاده کنه. تهش، مسئولیت کیفیت و درستی کد، بازم پای خود برنامه‌نویسه.

—-

💡 مثل همیشه کنجکاو بمونید :)

🆔 @MdDaily