Forwarded from Мастриды
У приложения TikTok уже больше миллиарда скачиваний по всему миру, но большинство людей старше пятнадцати лет совершенно в нём не разбираются. Во всяком случае, для меня это какой-то параллельный мир.
Я читал много разных текстов про Тик-Ток, но на дня в журнале The New Yorker вышел, пожалуй, лучший. Огромный лонгрид в лучших традициях нью-йоркерской расследовательской журналистики. В тексте поднимаются такие темы, как:
- история роста Тик-Тока и особенности его агрессивного маркетинга
- как Тик-Ток фактически подкупил правительство Индии, чтобы его там не запретили
- как приложение взаимодействует с инфлюэнсерами и музыкантами (вы ведь знаете, что песня "Old Town Road", побившая все рекорды по нахождению на первом месте в чартах, «взлетела» благодаря Тик-Току?)
- как оно влияет на музыкальную индустрию (молодые музыканты адаптируют треки под тик-токовский формат и по времени, и по настроению)
- как команда Тик-Тока манипулирует новостной повесткой, чтобы пользователи видели только позитив и им было приятно прокрастинировать в приложении
- как сервис сотрудничает с китайским государством и цензурирует антиправительственный контент про протесты в Гонгконге и геноцид уйгуров
- как во всём этом помогает искусственный интеллект и машинное обучение.
Показательны опасения автора материала: что, если огромный массив информации, собранный о сотнях миллионов американцев и европейцев, будет использован китайским правительством с каким-нибудь злым умыслом? Вопрос остаётся открытым.
newyorker.com/magazine/2019/09/30/how-tiktok-holds-our-attention
#тренд_мастрид #техно_мастрид
Я читал много разных текстов про Тик-Ток, но на дня в журнале The New Yorker вышел, пожалуй, лучший. Огромный лонгрид в лучших традициях нью-йоркерской расследовательской журналистики. В тексте поднимаются такие темы, как:
- история роста Тик-Тока и особенности его агрессивного маркетинга
- как Тик-Ток фактически подкупил правительство Индии, чтобы его там не запретили
- как приложение взаимодействует с инфлюэнсерами и музыкантами (вы ведь знаете, что песня "Old Town Road", побившая все рекорды по нахождению на первом месте в чартах, «взлетела» благодаря Тик-Току?)
- как оно влияет на музыкальную индустрию (молодые музыканты адаптируют треки под тик-токовский формат и по времени, и по настроению)
- как команда Тик-Тока манипулирует новостной повесткой, чтобы пользователи видели только позитив и им было приятно прокрастинировать в приложении
- как сервис сотрудничает с китайским государством и цензурирует антиправительственный контент про протесты в Гонгконге и геноцид уйгуров
- как во всём этом помогает искусственный интеллект и машинное обучение.
Показательны опасения автора материала: что, если огромный массив информации, собранный о сотнях миллионов американцев и европейцев, будет использован китайским правительством с каким-нибудь злым умыслом? Вопрос остаётся открытым.
newyorker.com/magazine/2019/09/30/how-tiktok-holds-our-attention
#тренд_мастрид #техно_мастрид
The New Yorker
How TikTok Holds Our Attention
On the popular short-video app, young people are churning through images and sounds at warp speed, repurposing reality into ironic, bite-size content.
Forwarded from Мастриды
Недавно была сыграна удивительная шахматная партия. Играла компьютерная программа против человека: slatestarcodex.com/2020/01/06/a-very-unlikely-chess-game
Но удивителен не результат партии (шахматные программы сегодня легко обыгрывают даже чемпионов мира, хотя в этот раз победил человек), а то, что это была за программа. Это GPT-2, нейросеть, которая продолжает за тебя написанный текст. Я уже писал про эту программу и про опасения, связанные с её разработкой: t.iss.one/mustreads/2234
GPT-2 успешно сопротивлялась в партии против человека … даже не зная о том, что играет в шахматы. Нейроcети дали тексты шахматной нотации (записи ходов латиницей, т.е. e2-e4 и т.д.) – базу из нескольких миллионов сыгранных шахматных партий. При этом программу не учили правилам шахмат, для неё все эти записи партий были просто текстом.
Если нейросети дать на изучение тексты песен Егора Летова, она через какое-то время сможет сама писать тексты, похожие на песни «Гражданской обороны» (это уже делал Яндекс: music.yandex.ru/artist/4445922). А если нейросети дать тексты шахматных партий, она начинает генерировать достаточно убедительные тексты шахматных партий. В итоге программа проиграла ферзя, но до середины партии достаточно неплохо сопротивлялась. Видимо, если её подольше пообучать, она станет ещё сильнее.
По-моему, это отличная иллюстрация того, как ИИ может превзойти человека в какой-то сфере, особо не напрягаясь, и расширить свои способности в неожиданном для нас направлении. Лишний повод напомнить вам о серьёзности рисков, связанных с развитием не дружественного человеку супер-ИИ. Скоро сделаю про это ролик.
Вот инструкция для тех, кто хочет тоже сыграть партию с GPT: colab.research.google.com/drive/12hlppt1f2N0L9Orp8YCLgon6EF5V3vuR
P.S. Попробуйте написать короткую фразу на английском для GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com (сегодня этот сайт с российского IP у меня почему-то недоступен – возможно, они так борются с генерацией фейк-ньюз русскими ботами – но включите VPN с IP любой другой страны и всё заработает)
P.P.S. Аналогичная программа доступна на русском: text.skynet.center
P.P.P.S. На тему противостояния ИИ и людей за шахматной доской рекомендую всем любителям шахмат материал про матч между топ-5 гроссмейстером мира Хикару Накамурой и одной из сильнейших программ Комодо, в котором компьютер давал фору гроссмейстеру в каждой партии: en.chessbase.com/post/wsj-on-odds-chess-match-nakamura-vs-komodo (здесь можно почитать про матч и посмотреть все партии).
В первой партии это была фора в пешку, во второй – в пешку и ход, в третьей – в качество (ладья за слона), в четвёртой – фора в 4 хода. В итоге человек не выиграл ни одной партии и проиграл матч. Я в детстве занимался шахматами и был КМСом – так вот, местами было больно и обидно за гроссмейстера, которого переигрывали, как будто Лионель Месси играет в футбол против школьника со двора.
#техно_мастрид
Но удивителен не результат партии (шахматные программы сегодня легко обыгрывают даже чемпионов мира, хотя в этот раз победил человек), а то, что это была за программа. Это GPT-2, нейросеть, которая продолжает за тебя написанный текст. Я уже писал про эту программу и про опасения, связанные с её разработкой: t.iss.one/mustreads/2234
GPT-2 успешно сопротивлялась в партии против человека … даже не зная о том, что играет в шахматы. Нейроcети дали тексты шахматной нотации (записи ходов латиницей, т.е. e2-e4 и т.д.) – базу из нескольких миллионов сыгранных шахматных партий. При этом программу не учили правилам шахмат, для неё все эти записи партий были просто текстом.
Если нейросети дать на изучение тексты песен Егора Летова, она через какое-то время сможет сама писать тексты, похожие на песни «Гражданской обороны» (это уже делал Яндекс: music.yandex.ru/artist/4445922). А если нейросети дать тексты шахматных партий, она начинает генерировать достаточно убедительные тексты шахматных партий. В итоге программа проиграла ферзя, но до середины партии достаточно неплохо сопротивлялась. Видимо, если её подольше пообучать, она станет ещё сильнее.
По-моему, это отличная иллюстрация того, как ИИ может превзойти человека в какой-то сфере, особо не напрягаясь, и расширить свои способности в неожиданном для нас направлении. Лишний повод напомнить вам о серьёзности рисков, связанных с развитием не дружественного человеку супер-ИИ. Скоро сделаю про это ролик.
Вот инструкция для тех, кто хочет тоже сыграть партию с GPT: colab.research.google.com/drive/12hlppt1f2N0L9Orp8YCLgon6EF5V3vuR
P.S. Попробуйте написать короткую фразу на английском для GPT-2 и предложите нейросети продолжить текст за вас по ссылке: talktotransformer.com (сегодня этот сайт с российского IP у меня почему-то недоступен – возможно, они так борются с генерацией фейк-ньюз русскими ботами – но включите VPN с IP любой другой страны и всё заработает)
P.P.S. Аналогичная программа доступна на русском: text.skynet.center
P.P.P.S. На тему противостояния ИИ и людей за шахматной доской рекомендую всем любителям шахмат материал про матч между топ-5 гроссмейстером мира Хикару Накамурой и одной из сильнейших программ Комодо, в котором компьютер давал фору гроссмейстеру в каждой партии: en.chessbase.com/post/wsj-on-odds-chess-match-nakamura-vs-komodo (здесь можно почитать про матч и посмотреть все партии).
В первой партии это была фора в пешку, во второй – в пешку и ход, в третьей – в качество (ладья за слона), в четвёртой – фора в 4 хода. В итоге человек не выиграл ни одной партии и проиграл матч. Я в детстве занимался шахматами и был КМСом – так вот, местами было больно и обидно за гроссмейстера, которого переигрывали, как будто Лионель Месси играет в футбол против школьника со двора.
#техно_мастрид
Slate Star Codex
A Very Unlikely Chess Game
Almost 25 years after Kasparov vs. Deep Blue, another seminal man vs. machine matchup: Neither competitor has much to be proud of here. White has a poor opening. Black screws up and loses his queen…
Forwarded from Мастриды
Огромный мастрид с кучей ссылок от блогера Gwern о его опыте обращения с самой передовой на сегодня нейросетью, генерирующей тексты – GPT-3: gwern.net/GPT-3
В статье много теории и куча примеров того, как Гверн сутками экспериментировал с этой программой, заставляя её генерировать рассказы, сказки, анекдоты, писать стихи, фантастику и продолжать книги известных авторов от Данте до Станислава Лема.
Цитата: "GPT-3’s samples are not just close to human level: they are creative, witty, deep, meta, and often beautiful. They demonstrate an ability to handle abstractions, like style parodies, I have not seen in GPT-2 at all. Chatting with GPT-3 feels uncannily like chatting with a human. I was impressed by the results reported in the GPT-3 paper, and after spending a week trying it out, I remain impressed."
Действительно, очень многие примеры выдаваемых нейросетью текстов впечатляют. В ближайшие годы она ещё больше разовьётся и, кажется, наш ждёт эпоха великой литературы, написанной искусственным интеллектом. Думаю, когда-нибудь приглашу GPT-3 в своё шоу "Книжный чел" — это уже звучит не как научная фантастика, а как перспектива ближайшего будущего.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
В статье много теории и куча примеров того, как Гверн сутками экспериментировал с этой программой, заставляя её генерировать рассказы, сказки, анекдоты, писать стихи, фантастику и продолжать книги известных авторов от Данте до Станислава Лема.
Цитата: "GPT-3’s samples are not just close to human level: they are creative, witty, deep, meta, and often beautiful. They demonstrate an ability to handle abstractions, like style parodies, I have not seen in GPT-2 at all. Chatting with GPT-3 feels uncannily like chatting with a human. I was impressed by the results reported in the GPT-3 paper, and after spending a week trying it out, I remain impressed."
Действительно, очень многие примеры выдаваемых нейросетью текстов впечатляют. В ближайшие годы она ещё больше разовьётся и, кажется, наш ждёт эпоха великой литературы, написанной искусственным интеллектом. Думаю, когда-нибудь приглашу GPT-3 в своё шоу "Книжный чел" — это уже звучит не как научная фантастика, а как перспектива ближайшего будущего.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
gwern.net
GPT-3 Creative Fiction
Creative writing by OpenAI’s GPT-3 model, demonstrating poetry, dialogue, puns, literary parodies, and storytelling. Plus advice on effective GPT-3 prompt programming & avoiding common errors.