☀️LocoProp: Composition of Neural Layers☀️

👉Google AI unveils LocoProp: novel neural paradigm for modular composition of layers.

𝐇𝐢𝐠𝐡𝐥𝐢𝐠𝐡𝐭𝐬:
✅Backprop++ via Local Loss Optimization
✅Layer-based weight-reg, target output & loss
✅Multiple local updates via first-order optimizer
✅Superior performance and efficiency

More: https://bit.ly/3Q40YJn

تعدادی از کورسای علم داده دانشگاه هاروارد که رایگان شدند:

Catalog of Courses | Harvard University
https://pll.harvard.edu/catalog?keywords=&subject%5B%5D=84&free%5B1%5D=1&max_price=&start_date_range%5Bmin%5D%5Bdate%5D=&start_date_range%5Bmax%5D%5Bdate%5D=

https://pythonspeed.com/articles/docker-cache-pip-downloads/

Faster Docker deployment with PIP-Caching

چنل یوتیوب بیشتر با تم NLP و ترنسفورمر

https://youtube.com/c/JamesBriggs

🔥 خبر داغ 🔥

حتما Andrej Karpathy رو میشناسید! همونی که هد هوش مصنوعی تسلا بود. یک ویدئوی آموزشی توی یوتوب گذاشته و در 5 روز 70 هزار بازدید داشته!

موضوع ویدئو هم آموزشی هست. ساخت میکروگراد! میکروگراد یک کتابخونه کوچیک هست که شامل شبکه عصبی و پروسه پس انتشارش میشه. میکروگراد رو قبلا نوشته بود، اما الان ویدئوی آموزشیش رو تهیه کرده...

هدفش از تهیه این ویدئوی آموزشی، آشنایی افراد با مطالب پایه در شبکه عصبی مثل ساخت یک شبکه عصبی، آموزش شبکه، تسلط بر پس انتشار خطا و البته اندکی آشنایی با بک‌اند فریمورک‌های دیپ لرنینگ مثل پایتورچ هست.

https://www.youtube.com/watch?v=VMj-3S1tku0&t=2563s

@pytorch_howsam

#Event

بچه ها
همین طور که خودتونم احتمالا میدونین، قراره از فردا رویداد cws از طرف دانشکده علوم کامپیوتر برگزار بشه. نکته جالب توجهش اینه که یکی از موضوعاتی که قراره تو این وبینار بررسی بشه، بحث داغ ml و ai. اگه علاقه مندین که تو این رویداد شرکت کنین، میتونین موضوعات سخنرانی ها رو دنبال کنین. اگه اشتباه نکنم بخش ai میشه تاریخ ۲۶ و ۲۷ آگوست که جمعه و شنبه پیش رو میشه.
اگه تا الان ثبت نام نکردین، امروز روز آخر ثبت نامه. بهتون پیشنهاد میکنم حتما به این سایت سر بزنین:
https://cwsaut.ir/
لینک کانال تلگرام:
@cws_aut

https://www.tensorflow.org/resources/learn-ml?gclid=CjwKCAjwp7eUBhBeEiwAZbHwkQk0mmWUZS-SKNXGZgNohIUUbdSthJa02NHWOijUyq6wG790xBaQkRoCUJgQAvD_BwE


مسیر پیشنهادی google برای تنسورفلو و ماشین لرنینگ
بین کتاب‌هایی که پیشنهاد کرده کتاب Hands-on ML بنظر من خیلی کتاب خوبی هستش که از وبسایت‌هایی که هستن هم میشه رایگان نسخه دوم و سومش رو دانلود کرد(نسخه سوم هنوز فکر کنم نهایی نشده) توی کتابش از تسک‌هایی مثل classification, clusterring تا تسک‌های مد روز مثل GAN, Deep RL رو پوشش داده و جالبه.

یه بلاگ پر از محتوای حق

از مباحث پایه شبکه های عصبی گرفته تا مباحث پیشرفته تر نظری رو میتونین توش پیدا کنین. احتمال زیاد به کارتون میاد.

https://colah.github.io/

[Docker] + Python

✔️ سوال: best practice‌ها و ابزارات مورد نیاز برای توسعه یه بسته، لایبرری یا نرم‌افزار پایتونی چیه؟

ابزارهای زیادی واسه این‌کارا وجود داره که بر اساس تجربه و چیزی که از 80 درصد پروژه های معروف و بزرگ دیدم، سعی میکنم بهتریناش رو معرفی کنم:


Dependency Management System

برای مدیریت وابستگی های یک پروژه بزرگ (یا نسبتا بزرگ)، پیشنهاد میکنم از Poetry استفاده کنید، چون ابزار بسیار قدرتمندی هست، کار باهاش بسیار راحته (خیلی شبیه به Cargo در زبان Rust هست)، کامیونیتی بزرگی داره، به راحتی محیط dev و prod رو میتونید مدیریت کنید، مستندات بسیار خوب و روانی داره، در سریع ترین زمان ممکن میتونید پروژه رو در PyPI منتشر کنید و همچنین پروژه⁧های معروفی از جمله Rich (کتابخونه⁧ای که خود pip هم ازش برای رنگی کردن progress barها استفاده میکنه) از اون استفاده میکنن، که همین نشون میده چقدر کاربردی هست.
مواردی از جمله build و run هم کاملا با Poetry انجام میشن.

- منابع آموزشی:

1. آشنایی و شروع به کار با Poetry
https://realpython.com/dependency-management-python-poetry/

2. جزیات عمیق درباره هر قابلیت و نحوه استفاده
https://python-poetry.org/docs

3. نحوه انتشار یک package پایتونی در PyPI به کمک Poetry
https://johnfraney.ca/blog/create-publish-python-package-poetry/


Linting & Type Checking

برای Linting ابزارهای flake8 و pylint از معروف ترین⁧ها هستن، هر یک رو میتونید شدت سخت گیریشون رو تنظیم کنید، به راحتی همراه با Poetry تنظیماتشون در یک فایل قرار میگیره و نیاز به نگه داشتن فایل⁧های متفاوت برای هر کدوم ندارید. به نظرم خود flake8 به تنهایی نیازتون رو برطرف میکنه. اگر از PyCharm استفاده کنید یک Linter به صورت Built-in در اختیارتون میذاره که خوبه و کارتون رو راه میندازه.

اگر عادت دارید کدهای خودتون رو Annotate کنید و زیاد از Type Hint ها استفاده میکنید، استفاده از MyPy به عنوان یک static type checker به شما کمک میکنه ایرادات موجود در کلاس ها، توابع و ... رو پیدا کنید و بتونید typeهای دقیق تری استفاده کنید. همچنین ابزار Pyright که توسط مایکروسافت توسعه داده میشه، در VSCode به صورت integrated با افزونه Pylance کار میکنه و اگر از VSCode استفاده میکنید پیشنهاد میکنم حتما افزونه Pylance رو نصب کنید. PyCharm هم یک Type Checker داره ولی هنوز توانمندی Pylance و MyPy رو نداره.


- منابع آموزشی:

1. داکیومنت Flake8
https://flake8.pycqa.org/en/latest/user/invocation.html

2. داکیومنت MyPy
https://mypy.readthedocs.io/en/stable/getting_started.html


Code Formatting

برای مرتب و organize کردن importها از isort استفاده کنید، هم به صورت CLI در دسترس هست و هم یک API داره که میتونید در کد پایتون استفاده کنید. یک code formatter بسیار معروف که در اکثر پروژه⁧ها استفاده میشه Black هست، زیر نظر PSF (یا Python Software Foundation) و برنامه نویسای با تجربه و کار کشته ای همچون آقای Łukasz Langa (ریلیس منیجر پایتون 3.9) توسعه داده میشه، با دیگر ابزار ها مثل isort سازگار هست، با PEP8 سازگاره و کلی قابلیت مزیت دیگه داره که حقیقتا اینجا جا نمیشن :)

- منابع آموزشی:

1. داکیومنت isort
https://pycqa.github.io/isort/

2. داکیومنت Black
https://black.readthedocs.io/en/stable/getting_started.html

3. یک ویدیو از PyCon 2019 درباره Black
https://youtu.be/esZLCuWs_2Y

* این ابزارها همگی داکیومنت ساده و خوانایی دارن و به نظرم بهترین منبع همین داکیومنت⁧هاشون هست.


Testing

دو کتابخونه Pytest و unittest (در stdlib موجود هست) در تست نویسی پروژه ها استفاده میشن، برای تست کردن پروژه در environmentهای متفاوت از ابزار tox استفاده میشه و باهاش میتونید در نسخه های متفاوتی از پایتون کدتون رو تست کنید.


- منابع آموزشی:

1. یک مقاله جامع درباره تست نویسی، انواع آن و روش⁧های مورد استفاده در پایتون
https://realpython.com/python-testing/

2. ویدیو درباره unittest در پایتون
- آقای ned batchelder:
https://m.youtube.com/watch?v=FxSsnHeWQBY
- آقای Corey Schafer:
https://www.youtube.com/watch?v=6tNS--WetLI


* همچنین اگر از Git در پروژه خودتون استفاده میکنید، پیشنهاد میکنم از pre-commit حتما استفاده کنید و تمام این ابزارهای گفته شده رو automate کنید تا در هربار commit کردن، قبل از اینکه commit انجام بشه، این ابزارها روی کدتون اجرا بشن و اگر اشکالی در کدتون وجود داره پیدا بشه و اون رو برطرف کنید و دوباره commit کنید.

وبسایت pre commit:
https://pre-commit.com/

✒️ @Pygrammer
〰️〰️〰️〰️〰️〰️〰️
©️@raspberry_python

استفاده از elasticsearch برای پیاده سازی سیستم توصیه‌گر (یا همون ریکامندر)

گروه سیستم توصیه‌گر شرکت outbrain اومدن و گزارشی از این که چطوری تونستن از elasticsearch برای ساخت یه سیستم ریکامندر استفاده کنن ارائه کردن. اگه به این موضوع علاقه مند باشین فک کنم به کارتون بیاد.

پ.ن: اینکه توی گزارششون یه اشاره کوچیکی به وستورلد بود هم بی تاثیر نیست تو ارسال این لینک😂😂

https://www.elastic.co/blog/looking-at-content-recommendation-through-a-search-lens

سلام بچه ها
روزتون بخیر باشه

کم کم داریم نزدیک میشیم به تایم ارائه پروژه کارشناسی و خب اولین لازمه داشتن یه پروژه خوب، یه موضوع کاربردی، جذاب و به روزه.

به نظرم الان تایم مناسبیه که اگه در حال سرچ و بررسی برای پیدا کردن موضوعات مناسب بودین، اون موضوعاتی که به نظرتون جذاب تر بودن و ممکنه به بقیه توی تعیین موضوعشون کمک کنه رو اینجا با تگ #پروژه یا #project بفرستین.

اگه نظر، انتقاد، ایده یا پیشنهادی در این زمینه داشتین، خوشحال میشیم بدونیم. :)

پیشاپیش مرسی از همتون بابت همکاریتون🙏

Aman's AI Journal • Papers List
https://aman.ai/papers/

https://www.linkedin.com/posts/amanc_artificialintelligence-machinelearning-ai-activity-6974221084430671872-zdoU?utm_source=share&utm_medium=member_android

OTTO – Multi-Objective Recommender System
Build a recommender system based on real-world e-commerce sessions

- 3 months to go (3 months to go until merger deadline)
- Prize Money: $30,000

The goal of this competition is to predict e-commerce clicks, cart additions, and orders. You'll build a multi-objective recommender system based on previous events in a user session.

https://www.kaggle.com/competitions/otto-recommender-system/overview

Benefit the Educational features of DeepNote with your AUT email address
https://deepnote.com/

The Illustrated Stable Diffusion

https://jalammar.github.io/illustrated-stable-diffusion/