مهندسی داده
793 subscribers
112 photos
7 videos
24 files
315 links
BigData.ir کانال رسمی وب سایت
مطالبی راجع به مهندسی داده و طراحی زیرساخت‌های پردازش دیتا و ابزارهای مدرن دیتا
ارتباط با ادمین: @smbanaei
گروه تخصصی مهندسی داده 👇
https://t.iss.one/bigdata_ir_discussions2
کانال یوتیوب 👇
https://www.youtube.com/@irbigdata
Download Telegram
علم‌داده : جذاب‌ترین حوزه کاری در سال ۲۰۱۹ به انتخاب careercast - https://is.gd/5AIVbT
اخبار
, #آمار_و_احتمال, #علم_داده
سایت معتبر کاریابی careercast به عادت هر ساله، گزارش امتیازدهی مشاغل خود را منتشر کرده است که برای اولین بار، علم داده در این سایت بالاترین امتیاز را به خود اختصاص داده است و جذاب‌ترین شغل سال جاری معرفی شده است.
آشنایی با استاندارد داده‌های باز - https://is.gd/T83TAZ
ابزار و کتابخانه ها, استانداردها
, #استاندارد, #استانداردهای_داده, #داده_های_باز
حرکت به سمت یک جامعه پیشرو و توسعه‌یافته به ابزارهای مختلفی نیاز دارد که یکی از مهم‌ترین آنها، شفافیت داده‌ها و آمار در حوزه‌های مختلف کشور است که به کمک آن، دانشمندان و برنامه‌ریزان بتوانند با پایش و تحلیل درست این داده‌ها، راهکارهایی مناسب در حذف گلوگاه‌ها و شناسایی نقاط ضعف و قوت جامعه، ارائه دهند. در این راستا، استاندارد داده‌های باز در جهت گسترش فرهنگ به اشتراک گذاری داده‌ها توسط سازمانها و شرکتها، چندین سال است که در دنیای داده، رایج شده است. در این مقاله که توسط دکتر فرزاد مینویی در سایت وزین آنالیکا منتشر شده است، به بررسی این استاندارد می‌پردازیم.
دست به کد: جمع‌آوری خودکار توئیت‌های فارسی با استفاده از GitLab CI - https://is.gd/S7zPld
پردازش زبان طبیعی, دست به کد
, #پردازش_متون_فارسی, #توئیت, #توئیتر, #دست_به_کد, #گیت_لب, #گیت_هاب
در ادامه مباحث جمع آوری و پردازش توئیت‌های فارسی، به عنوان یک منبع عالی برای پردازش متن، در این مقاله قصد داریم به ایجاد یک خط تولید ساده جمع‌آوری توئیت بپردازیم که روزانه و بدون پرداخت هیچ هزینه‌ای، به جمع آوری توئیت‌های فارسی بپردازد. این خط تولید را با امکانات گیت‌لب راه‌اندازی می‌کنیم و توئیت‌های جمع‌آوری شده را روزانه در یک مخزن عمومی در گیت‌هاب به اشتراک می‌گذاریم.
آیا هدوپ در حال انقراض است؟ - https://is.gd/O3eGKB
اخبار
,
در این مقاله، به بررسی این موضوع میپردازیم که چرا امروزه به نظر می رسد هدوپ دیگر کارآیی گذشته را ندارد و باهم دلایل رواج این باور را بررسی کرده و سعی می کنیم حقیقت ماجرا و اینکه امروزه دنیای کلان‌داده به کدامین سمت در حال حرکت است را بفهمیم.
چگونه یک میلیون درخواست در ثانیه را با پایتون پاسخ دهیم ؟ - https://is.gd/BxsiZD
ابزار و کتابخانه ها
, #پایتون
در این نوشتار برای آنهایی که قصد دارند بخشی از کارهای یادگیری ماشین خود را از طریق وب سرویس به کاربران ارائه کنند، یک میکروفریمورک پایتون با نام Japronto معرفی شده است که طبق ادعای سازندگان آن، کارآیی آن بسیار بالاتر از سایر فریمورک‌ها و زبان‌های موجود در بازار است.
ساختاری استاندارد برای پروژه‌های علم داده - https://is.gd/wm17AC
ابزار و کتابخانه ها
, #ابزارهای_پایتون, #استاندارد, #پایتون, #پروژه_های_مهندسی_داده, #پروژه_های_علم_داده
پروژه‌های علم داده در سراسر دنیا ساختاری مشابه دارد و اگر با دقت به آنها نگاه کنید،‌ مولفه های زیر را در اکثر قریب به اتفاق آنها خواهید دید : داده‌‌ها . این داده‌ها معمولاً به داده‌های خام، داده‌های تست، داده‌های آموزش و مانند آن تقسیم می شوند. کتابچه‌ها : استفاده از Jupyrt Notebooks هم …
خیلی از تیم‌ها و استارتاپ‌ها با MySQL‌ شروع می‌کنند و به مرور زمان و با افزایش تعداد درخواست‌ها و داده‌ها با MySQL دچار چالش می‌شوندو مهاجرت از این دیتابیس و امتحان گزینه‌های دیگر، هزینه زیادی برای این شرکت‌ها دارد.
با توجه به اینکه یوتیوب بخش بزرگی از خدماتش از این دیتابیس محبوب یعنی MySQL سرویس دهی می شود در این نوشتار با معرفی وایتس به راز مقیاس پذیری مای اسکیوال در این بستر آنلاین اشتراک فیلم می پردازیم .
https://plink.ir/ofrHc
ویژوال استودیو کد، عنوان محبوبترین محیط برنامه نویسی را در سال 2019 از آن خود کرده است(در نظرسنجی استک اورفلو) چندی پیش افزونه پایتون این محیط برنامه نویسی پشتیبانی از کتابچه های پایتون یا همان IPython Notebooks را به مجموعه امکانات خود اضافه کرد.
یعنی امروزه می توانید این کتابچه ها مستقیما درون این محیط ایجاد کرده ، آنها را ویرایش نموده و نهایتاً خروجی آنها را در همان محیط مشاهده کنید.
تجمیع کتابچه های پایتون با یک محیط برنامه نویسی قدرتمند امکانات متنوعی را در اختیار ما می گذارد مانند مشاهده سریع متغیرها و مقادیر لحظه ای آن، اشکالزدایی حرفه ای، تلفیق با گیت . مجموعه این عوامل باعث می شود ویژوال استودیو کد را محیطی بسیار مناسب برای انجام پروژه های علم داده بیابیم. با هم این امکانات را مرور می کنیم .
yun.ir/jw5
در این نوشتار به مرور سریع دیتابیس توزیع شده و مبتنی بر اس‌کیو‌ال کاک‌روچ‌دی‌بی می‌پردازیم که با الهام از گوگل اسپنر، اجازه مدیریت داده‌های یک دیتابیس را عرصه جغرافیایی به راحتی به ما می‌دهد. فهرست امکانات و معماری آن را در این نوشتار با هم مرور می کنیم. https://bit.ly/2ZE2drp
گروه دیتابیس دانشگاه کارنگی ملون آمریکا سایتی را با آدرس dbdb.io با عنوان دیتابیسی از بانک‌های اطلاعاتی با هدف جمع‌آوری یکپارچه اطلاعات فنی دیتابیس‌ها ایجاد نموده است. در این مقاله به مروری سریع بر امکانات این سایت می پردازیم.
https://www.bigdata.ir/1399/06/dbdb-io/