چگونه یک ریسرچر معمولی نباشیم
https://twitter.com/_jasonwei/status/1715080315587440719?t=hig8BsRvdnFSvW80pvwKcQ&s=19

سلام دوستان
پروژه دادماتولز یک ابزار همه منظوره در حوزه NLP هست که قابلیت های زیر را دارد:
1- قابلیت دانلود دیتاست های معروف فارسی و انجام Prepraccess های آنها به صورت خودکار.
2- محاسبه embedding کلمات.
3- نرمالایزر
4- دارای یک pipeline که ویژگی های زیر را از یک متن استخراج می‌کند:
Named Entity Recognition
Part of speech tagging
Dependency parsing
Constituency parsing
Kasreh Ezafe Detection
Chunking
Lemmatizing
Tokenizing
Spellchecker
--------------------------
تا پایان ماه آتی(آبان) ویژگی های زیر به پروژه اضافه می‌شود:
1- تبدیل محاوره به رسمی
2- تحلیل احساسات
3- تحلیل هیجان
4- استفاده از تکنیک adapter(در این روش تنها از یک مدل پایه برای همه تسک های pipeline استفاده می‌شود و درنتیجه استفاده از رم سیستم به‌شدت کاهش می‌یابد و محاسبات سریع تر میشود.)

لطفا با ستاره دادن به پروژه گیت‌هاب ما را در ایجاد این ابزار رایگان و مفید حمایت کنید و موجب دلگرمی و انگیزه ما شوید. 🙏🙏😊

https://github.com/Dadmatech/DadmaTools

https://github.com/ashishpatel26/LLM-Finetuning
This project focuses on efficiently fine-tuning large language models using LoRA and Hugging Face's transformers library.

یه خبر عالی!
دانشکده کامپیوتر دانشگاه شریف این ترم درس LLM با تدریس اساتید دکتر رهبان، دکتر سلیمانی و دکتر عسگری گذاشته!

لینک سرفصل‌ها

لینک ویدیوها

اگر چه مطالبی که عنوان میشه رو میتونید تو دوره‌های کوتاه کورسرا پیدا کنید، اما دیدن این درس نگاه جامعی بهتون می‌ده و قطعا خالی از لطف نیست.
@Ai_Events

Microsoft, LinkedIn, and ... released a professional certificate in Generative Al🚀
No prerequisites or fees are required.

LinkedIn Post: https://www.linkedin.com/feed/update/urn:li:activity:7128196033808928773/
Website Link: https://365datascience.com/free-weeks-2023/

دوره جدید دانشگاه استنفورد
Stanford.Game Theory Free Course

▪️Game Theory
▪️Game Theory II: Advanced
▪️Deep Multi-Task and Meta Learning
▪️Game Theory for Machine Learning
▪️ Algorithmic Game Theory

#منابع #الگوریتمها #نظریه_بازی #فیلم #آموزش_کلاسی

🗨 @AI_Python

⚡️ مرکز سیستم های اطلاعات و علوم داده شریف با همکاری انجمن علمی رسانا برگزار می‌کند:

رمزگشایی مدل های بزرگ زبانی

🔻سخنرانان:
آقای حسین اخلاقپور
مهندس ارشد یادگیری ماشین در سیلیکون ولی
دکتر بابک حسین خلج
رئیس دانشکده مهندسی برق شریف

📌 جلسه به دو صورت حضوری و مجازی می‌باشد.

🔗جهت آشنایی بیشتر با ارائه دهنده این برنامه و موضوع هایی که در ارائه بحث خواهد شد، می توانید این ویدیو را مشاهده کنید.

🗓 سه شنبه، ۳۰ آبان
🕔ساعت ۱۶ الی ۱۸:۳۰

📝 جهت شرکت رایگان در جلسه، این فرم را تکمیل فرمایید.

🔴 شرکت در جلسه همایش، برای عموم آزاد است.

‼️مهلت ثبت نام جهت شرکت حضوری، دوشنبه ۲۹ آبان ، ۱۲:۰۰ شب

🔍تاریخ و مهلت ثبت‌نام ورکشاپ‌های این دوره نیز به زودی اعلام می‌شود.

📍نشانی محل برگزاری: دانشگاه صنعتی شریف، دانشکده مهندسی برق، سالن کهربا

🔗 لینک شرکت به صورت مجازی

📆 اضافه کردن به تقویم

🔍 جهت اطلاعات بیشتر عضو کانال شوید.
🆔@ISDS_Sharif
🆔@EEResana

ویدئوهای ضبط‌شده از کلاس دیپ‌لرنینگ دکتر علی قدسی استاد دانشگاه واترلو

https://youtube.com/playlist?list=PLehuLRPyt1HxuYpdlW4KevYJVOSDG3DEz&si=4eeCBn8S25oaDJbF

فریمورک جدید mlx که توسط Apple برای اجرا روی پردازنده‌های اپل طراحی شده

https://twitter.com/deliprao/status/1732250132614184970?t=fRv3O5KowpH_JAIDFQ5h0Q&s=19

باید با ترنسفورمرها خداحافظی کنیم؟!

What is State Space Sequence Models (SSMs):** SSMs have emerged as a promising architecture for sequence modeling, combining aspects of recurrent neural networks (RNNs), convolutional neural networks (CNNs), and classical state space models. They offer efficient computation, either as a recurrence or convolution, with linear or near-linear scaling in sequence length. Despite their success in continuous signal data like audio and vision, SSMs have been less effective in modeling discrete and information-dense data such as text.

📌 Selective State Space Models (SSMs): The paper introduces a new class of selective SSMs, designed to achieve the modeling power of Transformers while maintaining linear scaling in sequence length. This involves a selection mechanism allowing the model to selectively propagate or forget information along the sequence length dimension, based on the input. The innovation also includes a hardware-aware parallel algorithm to address the computational challenges posed by making SSMs time- and input-variant.

📌 The selection mechanism in Mamba It allows filtering out irrelevant tokens, resetting the state to remove extraneous history, and managing how information propagates or interacts along the sequence dimension. This mechanism is also connected to the gating mechanisms of RNNs and can be applied to traditional RNNs or CNNs.

📌 Empirical Validation: Mamba's effectiveness is empirically validated in several domains, including language modeling, DNA sequencing, and audio waveform modeling. It outperforms previous state-of-the-art models in these domains and shows superior performance in both pretraining quality and domain-specific task performance.

▪️ Mamba: Linear-Time Sequence Modeling with Selective State Spaces
▪️ GitHub

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

سایت زیر اومده ابزارهای هوش‌مصنوعی در حوزه‌های مختلف رو لیست کرده، اینجوری میتونید راحت بین این ابزارها بگردید و بهترین رو متناسب با نیازتون انتخاب کنید.

https://www.aixploria.com/en/

@Ai_Events

ظاهرا قرار نیست مدل Mamba پایانی برای سلطه ترنسفورمرها باشد. RWKV مدل جدیدی که اخیرا ادعای بیشتری رو در این حیطه مطرح کرده است خواندنی هست.

▪️ RWKV: Reinventing RNNs for the Transformer Era

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

نمی‌گم بهترین توضیح برای این مقاله اما خوب توضیح داده شده و درک مقاله رو ساده‌تر می‌کنه (بخصوص برای دوستان تازه‌کار)

Yannic Kilcher on Mamba

پایتورچ را در چهار مرحله یادبگیرید.

▪️ Tutorial: Learn the Basics

1. Tensors
2. Datasets and DataLoaders
3. Transforms
4. Build Model
5. Automatic differentiation
6. Optimization loop
7. Save, Load and Use Model

▪️ Introduction to PyTorch

1. Introduction to PyTorch
2. Introduction to PyTorch Tensors
3. The Fundamentals of Autograd
4. Building Models with PyTorch
5. PyTorch TensorBoard Support
6. Training with PyTorch
7. Model Understanding with Captum

▪️ Learning PyTorch with Examples
▪️ Start writing code

#پایتون #هوش_مصنوعی #منابع

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

Paper Link

مقاله مربوط به مدل ۷ میلیاردی ماکروسافت برای
Embedding

این مدل در حال حاضر rank 1 هاگینگ فیس هست (به محض انتشار جایگاه اول رو به خودش اختصاص داده)

خیلی مهم هست این قضیه.

بچه ها این ریپو حسابی توی گیت هاب ترند شده و به نظرم خیلی جالب اومده منابع خوبی رو برای یادگیری ماشین لرنینگ و بعدش LLM معرفی کرده!‌ هم ویدیو
داره هم نمونه کد هست و کلی داکیمونت خوب خلاصه..

حتی اشاره به منابع برای یادگیری ریاضی مورد نیازش هم کرده

https://github.com/mlabonne/llm-course
Sam92


@Ai_Events

جهت علاقه مندان حوزه علوم داده:
مجموعه ای از ویدیوهای آپارات و OCW دانشگاه شریف

هوش مصنوعی - دکتر رهبان 
https://lnkd.in/dky6WZeP

ماشین لرنینگ- دکتر رهبان

https://lnkd.in/dKbUXN_x

فرایند تصادفی - دکتر رهبان ( دکتر علیشاهی در مکتبخونه یک کلاس آموزشی راجب فرایندهای تصادفی داره)
https://lnkd.in/d8Ecqw3Q

پردازش هوشمند تصاویر زیست-پزشکی
https://lnkd.in/dwazQNTH
https://lnkd.in/dCDJPeQt

ReACT 2023
https://lnkd.in/dFZXqcew

IWCIT 2022
https://lnkd.in/dH7Hqani

آمار و احتمال مهندسی - دکتر امینی
https://lnkd.in/diuancHJ

#تشخیص_الگو - دکتر فاطمی زاده
https://lnkd.in/dScHFtje

خلاقیت الگوریتمی و برنامه‌نویسی پایتون (مخصوص دانش‌آموزان متوسطه‌ی اول و دوم) - در حال تکمیل
https://lnkd.in/d-7C8bdS

الگوریتم های بیوانفورماتیک- دکتر شریفی زارچی
https://lnkd.in/dyWrqGn8

داده ساختارها و مبانی الگوریتم ها-دکتر شریفی زارچی 
https://lnkd.in/dG5JhGzC

بیو انفورماتیک پیشرفته - دکتر شریفی زارچی
https://lnkd.in/dQbvnXsm

#یادگیری_ماشین - دکتر سلیمانی
https://lnkd.in/dwPEBD-6

#هوش_مصنوعی- دکتر سلیمانی
https://lnkd.in/dQGsuwjT

یادگیری برخط - محمدهادی فروغمند -کسری علیشاهی
https://lnkd.in/dVCEbguf

مباحثی در علوم داده (یادگیری بندیت)- 
https://lnkd.in/dWA8wiKM

بهینه سازی در علوم داده ها- محمدهادی فروغمند
https://lnkd.in/dPtdmGUi

مباحثی در #آمار (روش‌های بیزی در آمار و یادگیری)- کسری علیشاهی
https://lnkd.in/dbb6ANd7

بهینه سازی محدب-مجتبی تفاق
https://lnkd.in/d7h4bqs5

#یادگیری_تقویتی - کسری علیشاهی
https://lnkd.in/d8S7m86N

مقدمه ای بر بیوانفورماتیک (تحلیل داده های زیستی) - علی شریفی زارچی
https://lnkd.in/dWkZbMcn

#منابع

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person

اگه شما هم این اشتباه رو میکردین، دیگه نکنین :)

https://www.linkedin.com/posts/avi-chawla_machinelearning-datascience-activity-7151556109340708864-Hsaa?utm_source=share&utm_medium=member_android

اگه حس کردین نیاز دارین برین سراغ یادگیری DSP این پلی لیست توصیه میشه.

https://youtube.com/playlist?list=PLuh62Q4Sv7BUSzx5Jr8Wrxxn-U10qG1et&si=rYcYO89Yg2sFT3p9