utahMNIST

Это фосфены, которые незрячий человек видит при стимуляции визуальной коры.

Испытуемый сам их нарисовал.

Сделал ресайз в 28x28 как в MNIST😅

p.s. на первой фотографии человек увидел мозг)

Update from the Neuralink
June 2025

https://x.com/neuralink/status/1938643490600276142?t=y2MlVwQJGXMwSBFw26Cp4A&s=35

MEG hackathon update

Мы начали тренить модельки на соревнование по декодированию речи из мэга. Сейчас активен первый трек, бинарная классификация(есть речь /нет речи).

Я потратил 1.5 недели, чтобы сделать сильный baseline. Решил что он должен быть простым, поэтому никаких attention и rnn, только мои любимые свёртки!

Я уверенно залетел на лидерборд с результатом 85%. Минимальный порог от организаторов - 68%.

Со следующей недели ко мне присоединится ещё один админ этого канала(Лехас), а также ребята с которыми мы делали ALVI Interface. Будем собирать трансформер! А то пока все мои наивные экспы выглядят оч печально. Тупо не работает. Будем фиксить)

В общем не откладывайте, остался месяц. Тренируйте модели и залетайте на лидерборд. Советую обратить внимание на аугментации и на лоссы. У меня очень сильно повлияло на результат.

Ссылка на соревнование

Что за вайб конечно. Это слои в nvidia kosmos tokenizers

Brain-to-text '25

Самое интересное BCI соревнование этого лета наконец-то официально началось. Необходимо декодировать речь из моторной коры.

Коротко про соревнование:

Задача: Предсказать речь по активности мозга. Метрика word error rate.

Данные: 11,352 предложений, 256 электродов Utah Array, установленных в speech motor cortex

Дедлайн: 31 декабря 2025

Призы: $9000

Ссылки
paper
kaggle

meg speech detection update v2

Осталось пять дней! Ещё есть время залететь на лидерборд!

Мы пока что вторые, но модели все ещё тренируются

gpus go brr..

Информация о соревновании

meg speech decoding update v3

Закончился первый трек по бинарной классификации.

Мы вошли в тройку на паблике. Позднее расскажу, что получилось, а что нет. Почти все что я пробовал в качестве улучшений не работало😅

Наша лучшая модель это conv + transformer encoder with rope.

С сегодняшнего дня открывается доступ к следующему треку по классификации фонем.

лидерборд:
https://eval.ai/web/challenges/challenge-page/2504/leaderboard/6249

Liquid AI introduced LFM2

Ребята подняли 250М в конце прошлого года, в том числе с целью создания новых архитектур. До этого у них были работы по Liquid Time-constant Networks and continuous rnn. В общем я ожидал чего-то реально крутого и необычного.

А что по итогу получили?

По факту они взяли типичный llm attention слой. rmsnorm, swiglu activation, rope, qk norm. Почти все это было еще в llama v2.

Собрали таких 6 слоев: attn + mlp.

К этим слоям добавили 10 сверточных: conv + mlp.

Сверточные слои это double-gated causal conv layer (их LIV операторы). То есть это просто 1d свертки с gated операциями. На скрине реализация.

На этом всё. В любом случае все молодцы, но я ожидал большего.

С другой стороны. Работает же, работает же. Поэтому и ладно. Всем урок - не усложняйте ради усложнения. gated conv + transformer beat just transformer.

Но статьи нет, есть только benchmark с другими моделями. Учитывая как они учили свои модели через distillation, sft and dpo может быть все таки получилось побить конкурентов за счет тренировки и данных а не архитектуры.

Но глобально это работает так что можно юзать.

blogpost: https://www.liquid.ai/blog/liquid-foundation-models-v2-our-second-series-of-generative-ai-models