История понятия "сингулярность" в этом контексте:

TechCrunch, пресказывая материал FT, в котором упоминается этот блогпост. также утверждает, что понятие "сингулярности" появилось в одноименном романе итальянского писателя Дино Буццати (Dino Buzzati) еще в 1960
Впрочем, википедия подсказывает, что The Singularity - это название английского издания 2025 (!) года, а первый перевод на английский, вышедший в 1962м, назывался Larger than Life
По-итальянски роман назывался Il grande ritratto. Пишут, что The term singularity, today used as shorthand to indicate the historical moment in which artificial intelligence will surpass human capacities to the point that it will revolutionize human life as we know it, can be dated back to the 1980s, well after the publication of this novel
Про технологическую сингулярность можно прочитать, что модель самоулучшающегося интеллекта предложил в 1965 году, а о возможной опасности взрывного саморазвития суперинтеллекта предупреждали впоследствии уже Стивен Хокинг и другие ученые
Что же касается слияния человеческого и машинного интеллекта, эта идея, скорее, связана с Курцвейлом, который еще 20 лет назад выпустил книгу The Singularity Is Near
В его понимании, которое с тех пор не изменилось, сингулярность -- это не свмодеятельность машин, а результат слияния слияние человеческого мозга с облаком, будет достигнуто не через инвазивные электроды, а через "наноботы", которые смогут входить в мозг через капилляры - см., напр., его интервью Гардиан этого года

1) Тест Тьюринга (его проходили даже тупые до-LLM и не проходили некоторые люди)
2) "По ощущениям, надо оценивать так"
3) "Всё равно ты так не сможешь, псина... Ой, смог, ну сейчас посложнее придумаем!"

Критерии:
1) Вычислительный функционализм
Неважно, из чего сделан мозг, хоть из мяса. Важно, какие вычисления он производит
Никакой магии, просто покажите те же результаты, что при сознательном опыте
2) Но при этом важно, не что оно делает, а как
Современные LLM — имитаторы
3) Поскольку это два взаимоисключающих пункта, давайте вместо того чтобы изобретать новые критерии, берём уже существующие модели, проверенные на людях, и пытаемся найти (создать) у моделей

— LLM-трансформеры — сразу идут лесом
— Perceiver (свёртки трансформеров + обрабатывающий штаб) — ближе к сознанию
— PaLM-E, "виртуальная крыса" — учатся на обратной связи и могут строить модели своего тела, но всё равно примитивны