Big Data AI
16.8K subscribers
807 photos
97 videos
19 files
815 links
@haarrp - админ

Вопросы с собеседований по Machine Learning, Data Science, Deep Learning и Нейроннным сетям

@data_analysis_ml - анализ данных

@ai_machinelearning_big_data

@itchannels_telegram - важное для программиста

РКН: clck.ru/3Fmqxe
Download Telegram
Benthos — мощный сервер обработки потоков данных

Он отлично подойдёт для интеграции, трансформации и маршрутизации данных в различных форматах и системах. Решение идеально для разработчиков, инженеров данных и DevOps.

Из «фишек» инструмента можно отметить его модульную архитектуру, позволяющую легко настраивать и масштабировать систему

Помимо этого, Benthos предлагает широкий выбор встроенных компонентов и поддержку плагинов для покрытия различных потребностей пользователей

Стоимость: #бесплатно

@bigdatai
👍82🔥1
Segment — универсальная платформа для анализа данных

С её помощью можно собирать, хранить и анализировать данные о клиентах. Инструмент особенно полезен для маркетологов, аналитиков и команд разработки, которые хотят лучше понять поведение своих пользователей

Основные преимущества Segment включают в себя удобство сбора данных с различных платформ и их централизацию в одном месте, а также гибкость интеграции с множеством других инструментов аналитики и маркетинга

Стоимость: #бесплатно (но есть платные тарифы)

#анализ_данных #web

@bigdatai
👍43🔥2
Metabase — бесплатный инструмент для анализа данных без лишних сложностей

Инструмент очень простой и интуитивный. Вы можете запустить его и начать создавать дашборды всего за несколько минут, без необходимости обучения или написания кода

В отличие от многих других инструментов анализа данных, Metabase не требует от вас знаний в области SQL или других языков запросов

Более того, с его помощью можно создавать достаточно сложные запросы при помощи простого drag-and-drop интерфейса

https://www.metabase.com/

@bigdatai
👍8🔥32
Полезные шпаргалки от Стэнфорда.

Здесь собраны обзоры алгоритмов и моделей МО. Наглядный и удобный формат.

CS 221 Artificial Intelligence
CS 229 Machine Learning
CS 230 Deep Learning

@bigdatai
👍10🔥21
Что такое большие данные: комплексный обзор

Данные генерируются с беспрецедентной скоростью. Ежедневно создается более 2,5 квинтиллиона байт данных, причем объем генерируемых данных растет в геометрической прогрессии. Этот взрывной рост данных привел к появлению такого понятия, как “большие данные” (“Big Data”).

Но что же такое большие данные? Почему они важны? Как они влияют на современный бизнес? Ответы на эти вопросы ищите в нашем комплексном обзоре больших данных.

Читать

@bigdatai
👍6🔥31
🔥 RATH: Autopilot for exploratory data analysis

Полезный инструмент для анализа и визуализации данных

RATH автоматизирует ваш рабочий процесс исследовательского анализа данных с помощью мощного аналитического движка

Инструмент находит закономерности, инсайты и причинно-следственные связи в данных, представляя их в многомерных визуализациях

При этом он также RATH работает в качестве «помощника», изучая ваши намерения и предлагая соответствующие рекомендации. Облегчает процесс возможность задавать вопросы на естественном языке

Дополнительная информация об инструменте есть в материале на нашем сайта

#machine_learning #data #data_science

@bigdatai
👍4🔥31
📌 Подборка бесплатных курсов по аналитике и визуализации данных

Digital-аналитика — This is Data

Визуализация данных - Онлайн-школа ILYN

Microsoft Power BI — Microsoft Learn

Power Bi для интернет-маркетинга — NeedForData

Основы работы с DataLens — Яндекс Практикум

Google Data Studio (2022) — Яков Осипенков

Google Data Studio (2022) — Школа аналитики "Байкал"

@bigdatai
👍82🔥2
🔍 Microsoft Stocks from 1986 to 2023

Этот комплексный набор данных содержит подробный анализ динамики акций корпорации Microsoft с 1986 по 2023 год.

https://www.kaggle.com/datasets/bilalwaseer/microsoft-stocks-from-1986-to-2023

@bigdatai
4🔥1
6 no-code платформ машинного обучения

Как создать алгоритм, не разбираясь в ML.

#1. Google ML Kit

ML Kit — простая в управлении лаборатория SDK, которая позволяет внедрять МL на Android и iOS, независимо от опыта разработчиков в машинном обучении.

#2. Fritz AI

Fritz AI — end-to-end-решение для создания и обучения моделей, а также генерирования наборов данных без кода. Оно доступно на Windows, Linux, MacOS, а также мобильных ОС.

#3. DataRobot

#4. What-If tool

Это небольшой, но занимательный проект от PAIR (People + AI Research). WIT или What-If Tool — алгоритм в виде плагина для работы с регрессионными ML-моделями.

#5. Teachable Machine

Бесплатный инструмент от Google, запущенный в 2017 году. Он позволяет создавать ML-модели в браузере за пару минут.

#6. RapidMiner

Проект разделен на три части: веб-инструмент RapidMiner Go, программа для ПК RapidMiner Studio и образовательная грантовая программа RapidMiner Academy, которая сотрудничает с университетами.

@bigdatai
🔥5👍43
💉Медицинские датасеты для машинного обучения

Основная проблема данных здравоохранения заключается в их уязвимости. Они содержат конфиденциальную информацию, защищённую Health Insurance Portability and Accountability Act (HIPAA), и не могут использоваться без явно выраженного согласия. В сфере медицины чувствительные подробности называются защищаемой информацией о здоровье (protected health information, PHI).

Protected Health Information и идентификаторы HIPAA

Protected Health Information (PHI)

Анонимизация медицинских данных и удаление из них персональной информации

Подготовка датасетов для машинного обучения.

Разметка медицинских данных

Любые неструктурированные данные, будь то тексты, изображения или аудиофайлы, для обучения моделей машинного обучения требуют разметки или аннотирования. Это процесс добавления к блокам данных описательных элементов (меток или тэгов), чтобы компьютер мог понимать, что находится в изображении или тексте. Чтобы узнать об инструментах аннотирования и рекомендациях, прочитайте нашу статью о том, как организовать разметку данных.

Датасеты медицинских снимков

Изображения составляют подавляющее большинство (почти 90%) всех данных здравоохранения. Это даёт много возможностей по обучению алгоритмов computer vision для потребностей здравоохранения. Стоит заметить, что данные медицинских снимков в основном генерируются в отделах радиологии в виде рентгенограмм, сканов КТ и МРТ. Международным стандартом здравоохранения для хранения и передачи диагностических снимков является DICOM (Digital Imaging and Communication in Medicine).

The Cancer Imaging Archive (TCIA)

The Cancer Imaging Archive (TCIA), финансируемый Национальным институтом онкологии США (NCI) — это место хранения в открытом доступе радиологических и гистопатологических снимков, в основном в формате DICOM, представляющих 21 тип рака.

Национальная база данных снимков органов грудной клетки на Covid-19 (NCCID)

National Covid-19 Chest Imaging Database (NCCID)

Open Access Series of Imaging Studies (OASIS)

OASIS Brains

Скелетно-мышечные рентгенограммы (MURA)

MURA (Musculoskeletal Radiographs)

Датасеты клиник и больниц

Основная часть этих данных находится во внутренних системах учреждений здравоохранения, а именно в системах EHR (Electronic Health Record), системах управления медицинскими практиками, системах лабораторной информации, порталах для пациентов и других.

Medical Information Mart for Intensive Care (MIMIC)

MIMIC — это крупнейшая публичная коллекция очищенных от личных данных электронных медицинских карт (electronic health record, EHR), связанных с пациентами реанимационных отделений.

Healthcare Cost and Utilization Project (HCUP)

HCUP, которым управляет Agency for Healthcare Research and Quality (AHRQ), содержит базы данных США и отдельных штатов, которые можно использовать для выявления и исследования тенденций в доступности, использовании и результатах работы системы здравоохранения.

Данные поставщиков услуг Medicare

Medicare Provider Catalog собирает официальные данные центров услуг Medicare и Medicaid (CMS).
Данные можно просматривать в браузере, скачивать конкретные датасеты в формате CSV или подключать собственные приложения к веб-сайту при помощи API.

Лечебно-профилактические датасеты

Лечебно-профилактическими датасетами обычно управляют государственные органы и международные организации. Эти данные могут быть полезными при изучении трендов в здравоохранении, исследовании заболеваний для понимания и предотвращения эпидемий и для других задач.

Датасеты Global Health Observatory (GHO)
👍3
Global Health Observatory (GHO) — это коллекция Всемирной организации здравоохранения по статистике о здравоохранении в 194 её странах-участниках. Она содержит датасеты, структурированные на основе различных тем (например, здоровья несовершеннолетних, ВИЧ, туберкулёза, иммунизации, ментального здоровья, питания). Заинтересовавшие вас датасеты можно свободно скачать с веб-сайта, выбрав один из имеющихся форматов — таблицы CVS и Excel, файлы XML и JSON. Также всё содержимое доступно через Athena API, основанный на современной архитектуре REST.

Older Adults Health Data Collection

Older Adults Health Data Collection на Data.gov состоит из 96 датасетов, управляемых федеральным правительством США.

NCHHSTP AtlasPlus

NCHHSTP AtlasPlus предоставляет доступ к историческим данным за 20 лет по иммунодефициту человека (ВИЧ), вирусному гепатиту, заболеваниям, передаваемым половым путём, и туберкулёзу.

Исследовательские датасеты

Исследовательские датасеты предназначены для научного сообщества, фармакологических компаний, лабораторий и других организаций, участвующих в лечении и разработке лекарств. Они накапливают информацию из прошлых работ для дальнейшего развития медицинских исследований.

The Cancer Genome Atlas (TCGA)

The Cancer Genome Atlas (TCGA) — это важнейшая база данных геномики, охватывающая 33 типа заболеваний, в том числе 10 редких. TCGA был основан в 2006 году в результате совместной работы Национального института онкологии США и Национального института исследований генома человека (NHGRI).

Датасеты программы Surveillance, Epidemiology, and End Results (SEER)

Программа Surveillance, Epidemiology, and End Results (SEER) — самый надёжный источник онкологической статистики в США, предназначенный для снижения доли раковых заболеваний в популяции. Её база данных поддерживается Surveillance Research Program (SRP), которая является частью Division of Cancer Control and Population Sciences (DCCPS) Национального института онкологии.

Для анализа SEER и других баз данных, связанных с раком, можно использовать SEER Stat Software.

Датасеты клинических исследований Vivli

Vivli — это некоммерческая организация, координирующая, упрощающая и продвигающая научное исследование данных клинических исследований и обмен ими.

Где ещё можно найти медицинские датасеты

Например, data.world — облачный каталог данных, накопивший почти 3,5 тысяч связанных со здоровьем коллекций. Ещё одна стоящая внимания платформа — Papers With Code: в ней хранится 6 964 датасета для ML, и 244 из них относится к области медицины.
На Kaggle, который называют «Airbnb для data science», тоже есть кое-что интересное.

@bigdatai
👍6🔥31
This media is not supported in your browser
VIEW IN TELEGRAM
🧠 NEURAL NETWORKS A VISUAL INTRODUCTION

Интерактивная визуализация нейросетей, которая представляет интерактивное устройство нейросети, где все элементы описываются простым и последовательным образом, включая структуру, вычислительные элементы, нейроны и слои.

Анимация в проекте на очень высоком уровне, а объяснения основных терминов, понятны любому.


https://mlu-explain.github.io/neural-networks/

@bigdatai
👍6🔥4❤‍🔥21
Чем больший объем данных используют на проекте, чем выше нагрузка на систему – тем более продвинутый SQL нужен разработчикам. Изучить SQL и свободно использовать его в работе поможет курс Практикума.

После 3 месяцев курса разработчики смогут:
— уверенно пользоваться простыми селектами, джоинами, индексами и оконными функциями;
— отладить запрос, который сгенерирован через ORM;
— составить сложные запросы на нативном SQL;
— применить продвинутый SQL, чтобы писать код для высоконагруженных систем,
— чувствовать себя спокойно на собеседованиях.

Записывайтесь и растите в карьере

Реклама АНО ДПО "Образовательные технологии Яндекса", ИНН:7704282033, erid:LjN8KD49u
👍31
SocialNetworks Datasets

2021 Portuguese Elections Twitter Dataset - 57M+ tweets, 1M+ users - This dataset contains [...] [Meta]

72 hours #gamergate Twitter Scrape [Meta]

CMU Enron Email of 150 users [Meta]

Cheng-Caverlee-Lee September 2009 - January 2010 Twitter Scrape [Meta]

China Biographical Database - The China Biographical Database is a freely accessible [...] [Meta]

Clubhouse Dataset [Meta]

A Twitter Dataset of 40+ million tweets related to COVID-19 - Due to the relevance of the [...] [Meta]

43k+ Donald Trump Twitter Screenshots - This archive contains screenshots of 43,475 Donald [...] [Meta]

EDRM Enron EMail of 151 users, hosted on S3 [Meta]

Facebook Data Scrape (2005) [Meta]

Facebook Social Connectedness Index - We use an anonymized snapshot of all active Facebook [...] [Meta]

Facebook Social Networks from LAW (since 2007) [Meta]

Foursquare from UMN/Sarwat (2013) [Meta]

GitHub Collaboration Archive [Meta]

Google Scholar citation relations [Meta]

High-Resolution Contact Networks from Wearable Sensors [Meta]

Indie Map: social graph and crawl of top IndieWeb sites [Meta]

Mobile Social Networks from UMASS [Meta]

Network Twitter Data [Meta]

Reddit Comments [Meta]

Skytrax' Air Travel Reviews Dataset [Meta]

Social Twitter Data [Meta]

SourceForge.net Research Data [Meta]

The Reddit COVID dataset - This dataset attempts to capture the full extent of COVID-19 [...] [Meta]

Twitch Top Streamer's Data [Meta]

Twitter Data for Online Reputation Management [Meta]

Twitter Data for Sentiment Analysis [Meta]

Twitter Graph of entire Twitter site [Meta]

Twitter Scrape Calufa May 2011 [Meta]

UNIMI/LAW Social Network Datasets [Meta]

United States Congress Twitter Data - Daily datasets with tweets of 1100+ accounts associated [...] [Meta]

Yahoo! Graph and Social Data [Meta]

Youtube Video Social Graph in 2007,2008 [Meta]

@bigdatai
👍5🔥21
SocialNetworks Datasets

2021 Portuguese Elections Twitter Dataset - 57M+ tweets, 1M+ users - This dataset contains [...] [Meta]

72 hours #gamergate Twitter Scrape [Meta]

CMU Enron Email of 150 users [Meta]

Cheng-Caverlee-Lee September 2009 - January 2010 Twitter Scrape [Meta]

China Biographical Database - The China Biographical Database is a freely accessible [...] [Meta]

Clubhouse Dataset [Meta]

A Twitter Dataset of 40+ million tweets related to COVID-19 - Due to the relevance of the [...] [Meta]

43k+ Donald Trump Twitter Screenshots - This archive contains screenshots of 43,475 Donald [...] [Meta]

EDRM Enron EMail of 151 users, hosted on S3 [Meta]

Facebook Data Scrape (2005) [Meta]

Facebook Social Connectedness Index - We use an anonymized snapshot of all active Facebook [...] [Meta]

Facebook Social Networks from LAW (since 2007) [Meta]

Foursquare from UMN/Sarwat (2013) [Meta]

GitHub Collaboration Archive [Meta]

Google Scholar citation relations [Meta]

High-Resolution Contact Networks from Wearable Sensors [Meta]

Indie Map: social graph and crawl of top IndieWeb sites [Meta]

Mobile Social Networks from UMASS [Meta]

Network Twitter Data [Meta]

Reddit Comments [Meta]

Skytrax' Air Travel Reviews Dataset [Meta]

Social Twitter Data [Meta]

SourceForge.net Research Data [Meta]

The Reddit COVID dataset - This dataset attempts to capture the full extent of COVID-19 [...] [Meta]

Twitch Top Streamer's Data [Meta]

Twitter Data for Online Reputation Management [Meta]

Twitter Data for Sentiment Analysis [Meta]

Twitter Graph of entire Twitter site [Meta]

Twitter Scrape Calufa May 2011 [Meta]

UNIMI/LAW Social Network Datasets [Meta]

United States Congress Twitter Data - Daily datasets with tweets of 1100+ accounts associated [...] [Meta]

Yahoo! Graph and Social Data [Meta]

Youtube Video Social Graph in 2007,2008 [Meta]

@bigdatai
👍4🔥1
Познакомьтесь с Gorilla: LLM Калифорнийского университета в Беркли и Microsoft с API-расширением превосходит GPT-4, Chat-GPT и Claude

Недавние достижения в области больших языковых моделей (LLM) произвели революцию в этой области, снабдив их новыми возможностями, такими как естественный диалог, математические рассуждения и программный синтез. Тем не менее, LLM по-прежнему сталкиваются с присущими им ограничениями.

Недавно исследователи из Калифорнийского университета в Беркли и Microsoft представили Gorilla — модель LLaMA-7B, разработанную специально для вызовов API. Gorilla полагается на самообучаемые методы тонкой настройки и поиска, чтобы позволить LLM точно выбирать из большого и постоянно развивающегося набора инструментов, выраженных через их API и документацию.

Читать

@bigdatai
🔥7👍1🥰1