Інколи до мене приходять підписники з часів початку каналу, 2018-20 роки, часто біологи, і я відчуваю себе так:

Для відома всіх вас - я дуже відкритий щодо того, щоб бути хрещеним батьком. Вочевидь, хрещення як таке проводити непотрібно - я про культурне явище і роль. Я подумав і вважаю, що інститут хрещеного батьківства, як і інститут кумівства, треба знову зробити великими.

Скільки я був трансгуманістом, стільки я мріяв про український трансгуманізм. Мені завжди здавалося, можливо й дуже суб'єктивно, що Україна є унікальним місцем для цього. Я розумію, що це звучить дещо абсурдно, але так мені завжди здавалося. Історично - Добжанський, Богомолець, кібернетика, потім інститути геронтології та кріоніки - дійсно унікальні в своєму роді на глобальному рівні. Юридично Україна позбавлена бюрократії та регуляцій ЄС, але при цьому має якісних та дешевих науковців. The Force is strong in Ukrainian biologists... Є ще Єнамін. Є загальний дух гуляйполя та певного ступеню анархії, автономії, DIY, які необхідні для того, щоб робити передові і ризиковані речі. Є багато айтівців, які можуть грати допоміжну технічну роль і взагалі є зацікавленою аудиторією. Взагалі, є багато мотивованих чудових людей, яких можна довго перераховувати.

Для когось з вас це може звучати, як натягування сови на глобус, і може так і є. Правда, може. Але для мене це завжди виглядало як унікальний перетин великої сукупності факторів, які потребують лише розумного точкового застосування зусиль і таланту. До війни, я будував певні плани, накопичував гроші. Більшість цих грошей згоріла в полях війни. Я не жалкую, що віддав їх, але все ж таки як прикро від цієї війни і від того, як все могло бути краще, якби не божевілля і не кровожерливість росії!

Говорячи про війну ще, варто сказати ще одну річ в контексті трансгуманізму. Дехто, можливо багато хто, вважає трансгуманізм фундаментально гедоністичною ідеологією. Гедоністичний трансгуманізм було ідеологічно формалізовано і популярізовано ще доволі давно Есфандіарі, також відомим як FM-2030. Що ж, я особисто ніколи не знаходив це особливо близьким для себе. Для мене трансгуманізм завжди був ніцшеанським явищем - трагічна боротьба, проста велич і драматична битва життя. Нема нічого поганого в задоволенні і насолоді, але це завжди було для мене лише одним з аспектів життя і вподобань в житті - і нерідко аспектом другорядним.

Трансгуманізм означає надлюдськість. В тому числі, так - надлюдський інтелект і надлюдські сили. Але багато хто забуває про надлюдську мораль, надлюдські чесноти. Надлюдські чесноти повинні йти поперед надлюдських здібностей - з причин, які мені здаються очевидними. Отже. Для мене, солдати, ті, хто свідомо ризикує власним життям і здоров'ям заради інших - це ті, хто досяг чи прямо знаходиться на шляху досягнення надлюдських чеснот. Це не єдиний спосіб, але дуже прямий і справжній спосіб. Саме це для мене - перший і головний крок на особистому шляху до трансгуманізму, як бачу його я.

І звичайно, навіть якби не було війни, або навіть якщо війна закінчиться, залишається величезний нюанс у вигляді штучного інтелекту. Ще 5 років тому, лише 5 років тому, було зовсім неочевидно, що майбутнє піде шляхом ШІ-сингулярності, а не біотехнологічної сингулярності! Це було неочевидно, якщо дивиться на фандінгові стратегії раціоналістів та ефективних альтруїстів, на футурологічні дослідження, на пріоритети провідних аналітичних центрів - на будь-що! Світ, в якому відбувається радикальна акселерація біотехнологій, був би набагато кращим, ніж наш світ, в якому відбувається радикальна акселерація ШІ. І Україна, як і український трансгуманізм, мала б набагато більш перспективну позицію в цьому світі. Зараз потік грошей в трансгуманістичний біотех дуже скоротився. Єдине, що намагаються продовжувати фінансувати - це нейроаугментацію, і то, з дуже перемінним ентузіазмом.

І тим не менш, не можна виключати, що в хаосі пре-сингулярності карти знову змішаються. ШІ все ще може акселерувати біотехнології - і в наступні роки основним лімітуючим фактором прогресу в різних галузях буде не інтелект і не ресурси, а мотивація та агентність. Може, собівартість R&D впаде настільки, що хоча більшість грошей і буде йти в ШІ, того, що залишається, буде достатньо для радикальної акселерації і в біотехнологіях. Може, знайдуться якісь відносно легкі нейротех-інтервенції, які будуть вимагати термінових клінічних випробувань. Може, відбудеться щось позитивне, чого взагалі ніхто не очікує. Треба бути відкритим до сюрпризів від реальності. І мати надію. Мати надію - це корисно.

З виходом Claude Opus 4.5 та GPT-5.1, я пройшов для себе той рубіж, де я програмую, принаймні на пайтоні, виключно через спілкування з Claude Code та Codex.

Я більше не маю жодної практичної мотивації лізти розбиратися в код, який вони генерують - легше, швидше і ефективніше просто просити їх самих виправити, якщо є що виправити. Звичайно, мова йде саме про мій рівень - комусь більш професійному може досі має сенс лізти і розбиратися. Але я не бачу сенсу для себе. Так, може код буде більш корявий, але проекти будуть робитися в десятки, а то й в сотні разів швидше.

І це я ще взагалі не сів розбиратися з Claude Code нормально і всіма цими агентськими пайплайнами.

Це не треба сприймати як універсальну рекомендацію. Я все ж таки взагалі не професійний розробник. Я пишу код або для наукових досліджень, або для власних аматорських проектів.

Я запустив десятки Codex агентів, які працюють майже постійно, коли я за компом. Я спрямував усі запити від усіх Кодексів в одне вікно терміналу. Мені треба лише дивитися це вікно і писати, щоб вони продовжували робити наступні кроки, коли виникає черговий запит від агента (кожні 10-20 хвилин). Ліміт токенів GPT Pro використати практично неможливо - я поставив найновіші моделі і extra high reasoning effort, і як я сказав, багато агентів працює паралельно, але все одно я не досяг ліміту. На жаль, ліміт на Claude Caude досягається доволі швидко, навіть на Ultra підписці. Але Claude Code на основі Опусу 4.5 розумніший.

Що саме вони роблять? Я хз, я не дивлюся. Мені пофіг. Це великий вайб-кодінговий експеримент. Завалити усі задачі мʼясом.

Якщо проранжувати усі літературні твори, які я читав, за ступенем розуміння логіки, мотивації та психології персонажів, то на одному кінці спектра будуть "Вартові" - там кожен персонаж виглядає як ти чи певна частина тебе, повністю зрозумілий, повністю relatable, все в кожному з них викликає розуміння і активацію здатностей мозка до theory of mind. На іншому кінці спектра романи Достоєвського - усі персонажи в них завжди виглядали для мене як абсолютно штучні конструкти, які не є і не можуть бути реальними людьми, справжні люди такими не бувають, це вигадки, які були вигадані для вигаданого світу, які не мають жодного сенсу та існування за його межами.

Ви розумієте, що це означає?

Це були відкриті математичні задачі топового професійного рівня. Професори математики не могли вирішити їх. Олімпіадники не могли вирішити їх. Не факт, що Теренс Тао намагався, але ймовірно намагався, і не зміг вирішити їх.

Чомусь, основні прориви в ШІ завжди приходять у грудні. Невже це банально тому, що розробницькі чи комерційні цикли в ладах привʼязані до календарного року?

ChatGPT вийшла в грудні 2022.

У грудні 2024 вийшли перші моделі з chain-of-thought, які наситили всі основні бенчмарки.

У грудні 2025 вийшли агенти, які самостійно розробляють додатки, роблять оригінальні дослідження, пишуть наукові статті та розвʼязують нетривіальні задачі елітного рівня.

Напрошується питання: що буде у грудні 2026? AI-2027 виглядає так, що йде за графіком.

Історія з математичними здатностями ШІ - це черговий приклад того, що реальність не зобовʼязана обирати середину в дискусії.

Влітку, коли ШІ взяли золото на IMO, я дискутував з різними людьми стосовно того, наскільки це ознака того, що ШІ близькі до того, щоб робити оригінальні відкриття в математиці. Я вважав, що це скоріше так, і за рік-два це відбудеться. Інші вважали, що це скоріше не так, і треба суттєво більше часу. В реальності, на це пішло півроку.

https://x.com/getjonwithit/status/2009602836997505255

Я завжди вважав: існує купа математики, яка ніколи не буде корисною. Уся теза про «дивовижну застосованість математики» заснована на винятках та ретельно відібраних людьми окремих випадках. Усе, що можна корисно застосувати для моделювання світу - це математика, але далеко не все, що математика, можна корисно застосувати для моделювання світу.

Також, що цікаво, кількість цікавих простих аксіоматичних систем велика, але не дуже велика. Інтуїтивно, мені здавалося, що їх повинно бути більше (в тому сенсі, що майже всі аксіоматичні системи людей не повинні були б зʼявитися в першому мільйоні перебору всіх можливих).

Звичайно, багато хто інтуїтивно помиляється в інший бік - тобто вважає, що людство відкрило і розробляє більшість чи навіть майже всі цікаві аксіоматичні системи.

Another day, another research stream from me!

На цей раз, шукаю людей в команду для мого проекту в SPAR, мета якого — відповісти на питання: які напрямки досліджень з безпеки ШІ можуть випадково зробити ШІ небезпечнішим?

Тривіальний приклад: RLHF було винайдено, щоб зробити ШІ безпечнішим. Воно стало двигуном комерційного успіху ChatGPT та всієї гонки озброєнь ШІ. Це не поодинокий випадок — це системна проблема, яка так і не була формально вирішена.

Цей проєкт SPAR створить першу строгу методологію для вимірювання Capability Spillover Potential, CSP: кількісної оцінки того, наскільки ймовірно, що дослідження з safety буде перепрофільовано для просування capabilities.

Ми проаналізуємо історичні випадки, оцінимо поточні дослідницькі напрямки та створимо практичні рекомендації для грантодавців і дослідників для досягнення диференційного прогресу в безпеці.

Вам варто подаватися, якщо ви:
Маєте знання ландшафту досліджень з безпеки ШІ на рівні intermediate+
Розумієте, чому алайнмент — це складно (знайомі з аргументами на кшталт AGI Ruin, Agent Foundations)

Дедлайн подачі заявок — 14 січня.
Читайте про проєкт тут: https://sparai.org/projects/sp26/recQ0oK9NPEa1ajpK
Подавайтеся тут: https://fillout.kairos-project.org/t/fAg7dB6whjus

Двоє людей були взяті на мій поточний проект в AI Safety Camp через канал.

Неочікувано для себе, я завершив першу з двох частин науково-фантастичної книги, яку пишу - "Дорослішання". Тепер, є всі шанси встигнути дописати другу частину не тільки до Сингулярності, але і за цей рік.

Ніцше казав:
"З усього написаного, найбільше я люблю те, що написано власною кров'ю. Пиши власною кров'ю - і ти дізнаєшся, що кров є дух."

Я дізнався це, коли писав цю книгу.

Я був би дуже вдячний за бета-тестінг і за зворотній зв'язок щодо того, чи є в книзі якісь очевидні помилки чи прогалини, а також взагалі за будь-які коментарі. Тому, якщо у когось є бажання почитати і надати коментарі, пишіть в особисті будь-ласка. Можливо, вас змотивує те, що не один і не два моїх підписники стали в тому чи іншому ступені прототипами деяких персонажів.

Я згадував сюжет коротко на каналі, але нагадаю: Альтернативна історія, яка пішла іншим шляхом після 1952 року. 2025 рік. Населення Землі - 92 мільярди. Науково-технократичне суспільство. Світова конфедерація. Ринки передбачень як основа економіки та політики. Початок колонізації Марсу та малих планет. Початок генетичної інженерії людей. Майже утопія - чи як я називаю це, антиантиутопія.

Інвестор наймає відомого фундаментального фізика, показує йому каміння і просить провести певні дослідження таємно від усіх. Світовий Комітет Безпеки збирає різних незрозумілих людей незрозуміло для чого. Не дуже успішний історик намагається знайти відповідь на питання: що сталося у 1952 році?

Славетна перемога!

Я зробив додаток, який дозволяє запускати кодингових агентів на основі Кодексу без зупинки і необхідності втручань від користувача (хоча звичайно користувач може втручатися, якщо хоче) - вони будуть працювати стільки, скільки необхідно, щоб виконати задачу, і якщо задача відкрита або велетенська, то вони будуть працювати нескінченно (тобто, поки не увійдете в ліміт). Він працює на основі ChatGPT підписки, не API. Для MacOS/Linus.

Усе працює в докері, тому повинно бути безпечно. Всередині докера агенти мають повну свободу дій.

Інтерфейси - CLI та веб. Краще користуватися CLI - веб-інтерфейс трохи повільний і не дуже протестований, але наче увесь базовий функціонал працює.

Наскільки це буде якісно та корисно? Лише практика покаже. Я зараз вже роблю певні речі за його допомогою. Але у будь-якому випадку, ви можете використовувати цей тул, щоб ваші ліміти не простоювали - саме це було моєю початковою мотивацією. У мене просто нема часу на те, щоб промптити Кодекси так багато, щоб вони досягали тижневого ліміту. А ще є Claude Code та Antigravity. Тепер, цю проблему вирішено.

https://github.com/Biodyn-AI/estel