Google представили революционную архитектуру искусственного интеллекта Titans, которая работает по принципу человеческого мозга и в некоторых задачах даже превосходит его.

В Titans реализована долгосрочная, краткосрочная и постоянная память. Эта модель теперь может выборочно забывать ненужную информацию, запоминая важное. Как и мозг человека, долгосрочная память обучается и обновляется, адаптируясь к новой информации, а также поддерживает параллельную обработку данных, что ускоряет обучение и делает систему более эффективной.

В задачах моделирования, прогнозирования Titans превосходит все современные модели. Архитектура эффективно работает для анализа геномов, временных рядов и многого другого.

Например, если в контекстном окне GPT-4 всего 4 тысячи токенов, то в Titans их 2 миллиона. То есть буквально можно проанализировать примерно 25 средних книг за раз.

Видимо, мы стали ещё ближе к появлению разума у ИИ
r/#singularity