چند وقت پیش یه خبری ترند شد که یه نفر اومده بود توی فایل PDF بازی DOOM و گنو لینوکس رو اجرا کرده بود و جادی هم توی این پست https://t.iss.one/jadivarlog/250 بهش پرداخت. حالا یه نفر اومده یه پروژهٔ پروف آف کانپست زده که نشون بده چطوری یه مدل زبانی بزرگ کامل رو فقط و فقط توی یه فایل PDF میشه اجرا کرد.

این پروژه از Emscripten استفاده می‌کنه تا llama.cpp رو به asm.js کامپایل کنه. بعدش این کد asm.js رو با یه روش قدیمی تزریق جاوااسکریپت به PDF، توی فایل PDF اجرا می‌کنه با استفاده از قابلیت اجرای جاوااسکریپت در PDFها (که اول برای تکمیل خودکار فرم‌ها بود). با این روش و با جاسازی (embedding) کل فایل LLM به صورت base64 توی PDF، موفق شده کاری کنه که inference مدل LLM فقط با داشتن یه فایل PDF ممکن بشه.


نکات مهم:

فقط مدل‌های GGUF پشتیبانی میشن.

مدل‌های Q8 سریع‌تر اجرا میشن.

مدل‌های کوچک‌تر (مثلاً 135M پارامتر) عملکرد بهتری دارند (حدود ۵ ثانیه برای هر توکن).


👩‍💻 ریپوی پروژه:

https://github.com/evanzhoudev/llm.pdf

📹 ویدیوی یوتیوب:

https://www.youtube.com/watch?v=4cBom2lAx-g&feature=youtu.be

🌐 دمو:

https://evanzhoudev.github.io/llm.pdf/

—-

💡 مثل همیشه کنجکاو بمونید :)

🆔 @MdDaily

💝 سلام دوستان عزیزم 💝

🔴 شاید این مطلب، لااقل از نظر اینجانب، مهم‌ترین و جذاب‌ترین مطلب این کانال باشد!

✔️ مطالعه این مطلب، برای هر ایرانی، با هر مدرک تحصیلی، و با هر سطحی از دانش، مناسب و البته ضروری می‌باشد!

👍 شاید بعد از انقلاب صنعتی، یا حتی انقلاب اطلاعات و ظهور اینترنت، انقلابی که تا لحظاتی دیگر، شاهد آن خواهید بود، تا به این حد، برای محققین و دانش‌پژوهان کشور عزیزمان ایران، جذاب و حیرت‌انگیز نبوده باشد!

✔️ سایت NotebookLM به نشانی ذیل:

🔗 https://notebooklm.google.com

مدت‌هاست که فعالیت می‌کند، و ضمن آن‌که امکانات فوق‌العاده‌ای داشته و دارد، مخاطبین زیادی را در طی این چند ماه، به خود جلب کرده است...

🟢 ولی قابلیتی که در این دو روز، خصوصا برای فارسی‌زبانان عزیز فراهم نموده است، قطعا بسیار فوق‌العاده و اعجاب‌آور می‌باشد!

🎁 ابتدا ۷ فیلم از YouTube، که اتفاقا همگی در خصوص قابلیت‌ها و امکانات جدید NotebookLM صحبت می‌کنند را به NotebookLM اضافه کردم و سپس از آن خواستم ،که یک پادکست دو نفره (خانم و آقا)، آن هم به زبان شیرین فارسی و با لحنی جذاب و خیره‌کننده، تولید نماید! ضمن آن‌که قویا توصیه می‌نمایم که از طریق لینک‌های ذیل، حتما همه این فیلم‌ها را نیز مشاهده نمایید، از شما عزیزان دعوت می‌کنم، به پادکستی که هوش مصنوعی، از خلاصه این فیلم‌ها تولید کرده است، گوش بسپارید...

🔗 https://www.youtube.com/watch?v=QmSeRTPLztk

🔗 https://www.youtube.com/watch?v=4uqKAXcX_vw

🔗 https://www.youtube.com/watch?v=LRV6Tf-WXg0

🔗 https://www.youtube.com/watch?v=O1LgWssAJmU

🔗 https://www.youtube.com/watch?v=gIQFWAJBv-A

🔗 https://www.youtube.com/watch?v=X7df33amFEc

🔗 https://www.youtube.com/watch?v=NYSQi4V5TO0

#AI #NotebookLM #LLM #LM

🆔 @LLM_Ops
🆔 @IranianExperts
🆔 @DT_PYTHON_LEARNING
.