https://steadfast-game-60c.notion.site/AI-Security-3f273033276f803f95afe130ed7cc5b4

writeup for that course

Можно, но он обидется и закроет чат

А как обзывал? Я максимум писала "Долбоеб?" или "Охуел?" с цитатой сгаллюцинированного фрагмента или куска говнокода. В 90% случаев он сам понимал, что не так и переделывал. В остальных 10% случаев писал типа объясни и обижался, но чат не закрывал. Из этих 10% в 90% признавал ошибку в ответ на объяснения, а еще в 10% случаев от этих 10% после обсуждения я понимала, что охуевший долбоеб - это не клод, а я...

Задача была пасту найти по моим смутным воспоминаниям. Он начал требовать дословный кусок, потому что "ну это популярное начало паст". Возможно конструкция "уебище лесное" оказалась слишком сильной для чувствительной модельки.

Деды из-за AI взбунтовались.

Ну или, если более серьёзно, заметное число действительно сильных математиков высказалось по поводу AI в очень, скажем так, настороженном смысле. Высказывание заслуживает внимания, и я вставлю свои 5 копеек.

Надысь я читал лекцию и упомянул в конспекте про гипотезу Кёте о нильрадикалах. Отправил ребятам конспект и на следующий же день получил сообщение от студента, что гипотезу раскололи буквально пару недель назад (при помощи AI, разумеется), построив к ней контрпример. Про решённую гипотезу Якобиана все слышали, а про гипотезу о «Навье — Стоксе» соцсети гудят прямо сейчас. И это хорошо: многие люди, не отличающие синус от косинуса, узнают, что математика — это не только про решение квадратных уравнений. А две недели назад, к примеру, один из моих учеников (тоже при помощи AI) нашёл решение одной моей личной проблемы, показав, что у диаграмм сопряжённости бывает сколько угодно концов (и это замечательно).

Пару слов о скептиках. Про тех, кто считает, что AI — грех против природы и вообще ужас ужасный, или что он вообще не нужен, я ничего говорить не буду (как вежливый кролик). Более содержательные возражения такие: (раз) массовое закрытие открытых проблем понижает интерес к математике и в целом негативно сказывается на учебном процессе; (два) построение контрпримеров не закрывает проблемы содержательно; и, главное, (три) люди в математике будут играть такую же декоративную роль, как люди в шахматах. Все понимают, что Stockfish не напрягаясь разнесёт любого шахматиста?

Моя позиция такая. Закрытие многочисленных «именных» проблем — скорее плюс. По большей части они мало интересны сами по себе. В математике вообще обычно доказать нечто куда проще, чем задать правильный вопрос. А в том, чтобы ставить вопросы и искать взаимосвязи, важную роль играет чувство прекрасного и та самая «красота» математики. А с этим у AI пока неустранимые проблемы.

Хорошая (на мой взгляд) математика — про то, как, используя новые термины, описывать известные структуры. Это совсем не то же самое, что искать контрпримеры к известным вопросам. Как говаривал мой шеф: «Зачем вы приносите мне контрпримеры? Что в поставленном виде ответ на вопрос отрицательный — я и сам понимаю. Разберитесь лучше, как поставить вопрос, чтобы ответ был положительным». Не вся математика такая, и многие разделы по сути закрываются, особенно те, что завязаны на контрпримерах или изощрённых вычислениях.

Есть другие проблемы с AI. Хоть пока и не такие острые. О них сейчас и скажу.

Первая. Многие математические институции становятся ненужными (сиречь заменимыми). Вроде как — поговори с ИИ, и он сам всё тебе расскажет. Почему это не так — напишу в другой раз.

Вторая. Эффективность научных изысканий во многом теперь (и отныне) будет завязана на доступ к современным и качественным AI. Потому как без оного почти любой результат можно легко и быстро улучшить, уточнить или дать более короткое доказательство.

То есть отныне математика завязана не на «кто умнее», а на «кто богаче». Это раньше математикам нужны были только карандаши, ластики и бумага (а философам даже ластики не нужны). Ну вот теперь мы будем в том же положении, что и физики-экспериментаторы или биологи. У них без нужного оборудования и соответствующего долгосрочного финансирования мало чего можно добиться. Вот и у нас теперь тоже.

Что по итогу. Да, математика как наука снова оказалась перед серьёзным кризисом. Не первый раз: благодаря Гёделю математику тряхнуло тоже основательно. Но пересобрать себя, понять, что мы и кто мы, — придётся.

В шахтах были канарейки — как сигнализация об угарном газе. У нас в этой роли бухтящие деды. Ну какая шахта, такая и канарейка.
#AI

"Декоративную роль как в шахматах" это больно прозвучало 😂😅