Машинное отучение вместо машинного обучения.
В Китае найден идеальный способ воспитания законопослушных ИИ.
Вопрос эффективности машинного обучения, конечно, важен. Но еще важнее, быстро и эффективно отучать модель от «дурных привычек» и «вредных знаний», которыми модели могут легко и широкомасштабно делиться с людьми. Так ведь можно общество и вольнодумством заразить, если ИИ будет недостаточно законопослушен и тем самым станет дурно влиять на людей (с т.з. властей и/или создателей).
До такой постановки вопроса первыми додумались, естественно, в Китае. И довольно быстро придумали ответ на этот вызов. В НИИ владеющего TikTok китайского IT-гиганта ByteDance придумали крайне эффективный способ отучения модели от чего угодно.
До сих пор отучение моделей от вредных знаний (типа, как сделать бомбу или изготовить яд) и вредного влияния на людей (типа рассказов, как припеваючи живут люксовые проститутки и удачливые наркодилеры) было основано на положительных примерах и методе RLHF (обучение с подкреплением на основе человеческих предпочтений). Этот метод обучает «модель вознаграждения» непосредственно на основе отзывов людей. Модель учится на их примерах различать «что такое хорошо» и «что такое плохо».
RLHF метод всем хорош, но очень затратен по вычислительным ресурсам и времени (OpenAI потратил полгода и кучу денег, чтобы отучить GPT-4 хотя бы от самых распространенных гадостей, прежде чем выпустить модель в свет).
Китайцы из ByteDance Research пошли другим путем – не учить модель отличать «что такое хорошо» от «что такое плохо» на смеси позитивных и негативных примеров, а лишь отучать её от «что такое плохо», используя только негативные примеры.
Получилось дешево и сердито. Испытания нового метода показали, что с его помощью можно успешно:
• удалять вредные реакции модели (от себя добавлю, вредные с т.з. известно кого);
• стирать из памяти модели контент, защищенный авторским правом (от себя добавлю, и контент, неугодный известно кому);
• устранять галлюцинации (от себя добавлю, и/или то, что должно будет считаться галлюцинациями – типа принудительной психиатрии для людей).
Мне новый китайский метод отучения моделей напомнил древний "метод пресыщения" у людей, также называемый аверсивная терапия. Её целью было вызывать у человека с пагубной зависимостью неприятные ощущения от вредной привычки. Например, отучать юношу от алкоголя, заставляя его выпить так много, чтобы ему стало совсем плохо от алкогольного отравления. Сейчас этот метод признан не только неэффективным, но и чрезвычайно опасным. Но ведь это для людей. А ИИ – не человек, и потому, как считается, тут допустимо что-угодно.
Авторы пишут – «это только начало».
И они правы. У методов отучения ИИ огромные перспективы. И не только в Китае.
Картинка disk.yandex.ru
Статья arxiv.org
#МашинноеОтучение
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
В Китае найден идеальный способ воспитания законопослушных ИИ.
Вопрос эффективности машинного обучения, конечно, важен. Но еще важнее, быстро и эффективно отучать модель от «дурных привычек» и «вредных знаний», которыми модели могут легко и широкомасштабно делиться с людьми. Так ведь можно общество и вольнодумством заразить, если ИИ будет недостаточно законопослушен и тем самым станет дурно влиять на людей (с т.з. властей и/или создателей).
До такой постановки вопроса первыми додумались, естественно, в Китае. И довольно быстро придумали ответ на этот вызов. В НИИ владеющего TikTok китайского IT-гиганта ByteDance придумали крайне эффективный способ отучения модели от чего угодно.
До сих пор отучение моделей от вредных знаний (типа, как сделать бомбу или изготовить яд) и вредного влияния на людей (типа рассказов, как припеваючи живут люксовые проститутки и удачливые наркодилеры) было основано на положительных примерах и методе RLHF (обучение с подкреплением на основе человеческих предпочтений). Этот метод обучает «модель вознаграждения» непосредственно на основе отзывов людей. Модель учится на их примерах различать «что такое хорошо» и «что такое плохо».
RLHF метод всем хорош, но очень затратен по вычислительным ресурсам и времени (OpenAI потратил полгода и кучу денег, чтобы отучить GPT-4 хотя бы от самых распространенных гадостей, прежде чем выпустить модель в свет).
Китайцы из ByteDance Research пошли другим путем – не учить модель отличать «что такое хорошо» от «что такое плохо» на смеси позитивных и негативных примеров, а лишь отучать её от «что такое плохо», используя только негативные примеры.
Получилось дешево и сердито. Испытания нового метода показали, что с его помощью можно успешно:
• удалять вредные реакции модели (от себя добавлю, вредные с т.з. известно кого);
• стирать из памяти модели контент, защищенный авторским правом (от себя добавлю, и контент, неугодный известно кому);
• устранять галлюцинации (от себя добавлю, и/или то, что должно будет считаться галлюцинациями – типа принудительной психиатрии для людей).
Мне новый китайский метод отучения моделей напомнил древний "метод пресыщения" у людей, также называемый аверсивная терапия. Её целью было вызывать у человека с пагубной зависимостью неприятные ощущения от вредной привычки. Например, отучать юношу от алкоголя, заставляя его выпить так много, чтобы ему стало совсем плохо от алкогольного отравления. Сейчас этот метод признан не только неэффективным, но и чрезвычайно опасным. Но ведь это для людей. А ИИ – не человек, и потому, как считается, тут допустимо что-угодно.
Авторы пишут – «это только начало».
И они правы. У методов отучения ИИ огромные перспективы. И не только в Китае.
Картинка disk.yandex.ru
Статья arxiv.org
#МашинноеОтучение
_______
Источник | #theworldisnoteasy
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Яндекс Диск
Отучение модели от вредных знаний и поведения.jpg
Посмотреть и скачать с Яндекс Диска
🤫 Устанавливай, не бойся
Власти Ирана представили новое антивирусное программное обеспечение, которое планируют сделать обязательным для всех телефонов и граждан. ПО Farez проверяет приложения на устройстве пользователя на наличие любых признаков вредоносного ПО и блокирует программы, отнесенные к категории вредоносных.
Специальное подразделение полиции Ирана по борьбе с киберпреступностью (Iranian Cyber Police, FATA) не раскрыло никаких подробностей о том, как система будет работать на практике.
При этом граждане и эксперты выразили обеспокоенность по поводу конфиденциальности и безопасности. Они отметили, что власти Ирана могут использовать Farez для слежки за активистами.
_______
Источник | #mediainsider | #хроникицифровизации
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Власти Ирана представили новое антивирусное программное обеспечение, которое планируют сделать обязательным для всех телефонов и граждан. ПО Farez проверяет приложения на устройстве пользователя на наличие любых признаков вредоносного ПО и блокирует программы, отнесенные к категории вредоносных.
Специальное подразделение полиции Ирана по борьбе с киберпреступностью (Iranian Cyber Police, FATA) не раскрыло никаких подробностей о том, как система будет работать на практике.
При этом граждане и эксперты выразили обеспокоенность по поводу конфиденциальности и безопасности. Они отметили, что власти Ирана могут использовать Farez для слежки за активистами.
_______
Источник | #mediainsider | #хроникицифровизации
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
TechRadar
Fears over citizens' privacy as Iran reveals new mandatory antivirus mobile app
Considering Iran's track record, rather than a security measure experts fear it'll become a further tool for surveillance. So, what's at stake for Iranians?
Аксаков заявил о возможном налогообложении дохода, а не прибыли майнеров
———
Пользователи Mt.Gox получили первые выплаты из заблокированных в 2014 году средств bits.media
———
Глава Digital Currency Group Барри Силберт и президент компании Марк Мерфи покинут состав совета директоров Grayscale Investments, сообщает Reuters.
———
Впервые за 30 лет новым лидером по доходам становится Nvidia, а не Intel или Samsung
———
РБК: Доходы пиратских сервисов выросли в 1,7 раза на фоне ухода Netflix и Голливуда
———
Кабмин Чечни анонсировал создание совместной авиакомпании с Ираном. Власти Чечни и Ирана планируют проработать запуск прямого авиасообщения между Грозным и Тегераном.
———
Россия откроет посольство в Буркина-Фасо 28 декабря.
———
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
———
Пользователи Mt.Gox получили первые выплаты из заблокированных в 2014 году средств bits.media
———
Глава Digital Currency Group Барри Силберт и президент компании Марк Мерфи покинут состав совета директоров Grayscale Investments, сообщает Reuters.
———
Впервые за 30 лет новым лидером по доходам становится Nvidia, а не Intel или Samsung
———
РБК: Доходы пиратских сервисов выросли в 1,7 раза на фоне ухода Netflix и Голливуда
———
Кабмин Чечни анонсировал создание совместной авиакомпании с Ираном. Власти Чечни и Ирана планируют проработать запуск прямого авиасообщения между Грозным и Тегераном.
———
Россия откроет посольство в Буркина-Фасо 28 декабря.
———
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
РБК Крипто
Аксаков заявил о возможном налогообложении дохода, а не прибыли майнеров
Правительство, Минфин, Минэк, ЦБ и силовые структуры пока не договорились о принципиальных вопросах регулирования криптовалют
This media is not supported in your browser
VIEW IN TELEGRAM
Как кто-то писал в твиттере – "День, когда Google убил Matterport"
Теперь такое работает в вебе прямо на смартфоне. Можно свободно перемещаться, ничего не греется.
Это новый подход, SMERF, который отлично подходит для быстрого создания больших, детализированных сцен и работает на любых устройствах. SMERF превосходит другие похожие проекты по скорости и качеству, работая в режиме реального времени на обычных устройствах.
Для чего использовать?
– Недвижимость
– Галереи и музеи
– Маркетинговые развлекательные экспириенсы и интерактивные среды "аля" метаверс.
3 года назад мы делали похожий проект для крупного особняка, но это был Matterport и свободы было сильно меньше. Хочется теперь запилить что-то на этом движке. Пишите, если узнали себя в перечне над этим абзацем!
_______
Источник | #voictech
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Теперь такое работает в вебе прямо на смартфоне. Можно свободно перемещаться, ничего не греется.
Это новый подход, SMERF, который отлично подходит для быстрого создания больших, детализированных сцен и работает на любых устройствах. SMERF превосходит другие похожие проекты по скорости и качеству, работая в режиме реального времени на обычных устройствах.
Для чего использовать?
– Недвижимость
– Галереи и музеи
– Маркетинговые развлекательные экспириенсы и интерактивные среды "аля" метаверс.
3 года назад мы делали похожий проект для крупного особняка, но это был Matterport и свободы было сильно меньше. Хочется теперь запилить что-то на этом движке. Пишите, если узнали себя в перечне над этим абзацем!
_______
Источник | #voictech
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
This media is not supported in your browser
VIEW IN TELEGRAM
Продолжаем тему странных девайсов, не дошедших до нас, но обладающих чертовской притягательностью.
Настольные тиски для того, чтобы пробку туда-сюда – это вообще бомба.
_______
Источник | #linkmeup_podcast | #технопорно
@F_S_C_P
-------
поддержи канал
-------
Настольные тиски для того, чтобы пробку туда-сюда – это вообще бомба.
_______
Источник | #linkmeup_podcast | #технопорно
@F_S_C_P
-------
поддержи канал
-------
Пока у нас все с нескрываемым любопытством обсуждают совершенно непонятных кандидатов в будущие президенты или концовку сериала "Слово пацана", в Европе 🇪🇺 происходят не менее любопытные вещи. А именно на уровне всего Евросоюза хотят заставить разработчиков браузеров включить в них 250 корневых УЦ из Европы (с сертификатами, конечно) и запретить их удалять без разрешения локального правительства. Можно только представить себе, во что это выльется с точки зрения легализованного перехвата данных или выпуска мошеннических сертификатов 🤠
_______
Источник | #alukatsky
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
_______
Источник | #alukatsky
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Telegram
Пост Лукацкого
Пока у нас все с нескрываемым любопытством обсуждают совершенно непонятных кандидатов в будущие президенты или концовку сериала "Слово пацана", в Европе 🇪🇺 происходят не менее любопытные вещи. А именно на уровне всего Евросоюза хотят заставить разработчиков…
_________
Усталость и утомление от онлайн-встреч (VM fatigue) выше у людей, недовольных собственной внешностью. Корреляция 0,26. Отдельно проверяли, что этот результат значим для обоих полов и разных рас.
Если рассматривать отдельно пол и расу, то утомление на 15% выше у женщин и на 11% — у людей с азиатской внешностью. По данным других исследований, на которые в том числе опиралась работа, именно эти группы чаще недовольны собой в условиях самообъективации и социального сравнения, которые характерны для западной культуры.
Дальше авторы рассуждают о том, что лицезреть свое изображение в процессе конференции очевидно вредно. Один из вариантов — отключить, но это вряд ли поможет. У людей, недовольных собой, тревога в отсутствие контроля за тем, как они выглядят, может возрастать. Частичные исправления внешности тоже не годятся.
А уменьшить негативное самосфокусированное вним <...>
_______
Источник | #vcs_su
@F_S_C_P
-------
поддержи канал
-------
Усталость и утомление от онлайн-встреч (VM fatigue) выше у людей, недовольных собственной внешностью. Корреляция 0,26. Отдельно проверяли, что этот результат значим для обоих полов и разных рас.
Если рассматривать отдельно пол и расу, то утомление на 15% выше у женщин и на 11% — у людей с азиатской внешностью. По данным других исследований, на которые в том числе опиралась работа, именно эти группы чаще недовольны собой в условиях самообъективации и социального сравнения, которые характерны для западной культуры.
Дальше авторы рассуждают о том, что лицезреть свое изображение в процессе конференции очевидно вредно. Один из вариантов — отключить, но это вряд ли поможет. У людей, недовольных собой, тревога в отсутствие контроля за тем, как они выглядят, может возрастать. Частичные исправления внешности тоже не годятся.
А уменьшить негативное самосфокусированное вним <...>
_______
Источник | #vcs_su
@F_S_C_P
-------
поддержи канал
-------
Луна, гора и собор, пойманные в один невероятный снимок
Фотограф Валерио Минато (Valerio Minato) пытался запечатлеть этот кадр на протяжении 6 лет
_______
Источник | #kosmo_off
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Фотограф Валерио Минато (Valerio Minato) пытался запечатлеть этот кадр на протяжении 6 лет
_______
Источник | #kosmo_off
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Добро пожаловать в научную фантастику при вашей жизни: софт Ford решит, что вам управлять автомобилем нельзя
@cryptocritique
___
Source: Криптокритика / Cryptocritique
#хроникицифровизации
@F_S_C_P
-------
поддержи канал
-------
@cryptocritique
___
Source: Криптокритика / Cryptocritique
#хроникицифровизации
@F_S_C_P
-------
поддержи канал
-------
Несмотря на извинения Филиппа Киркорова начали вырезать из новогодних шоу из-за участия в голой вечеринке Ивлеевой. первым указание вырезать Киркорова поступило телеканалу НТВ, который уже снял с ним шоу "Маска". Также Лолита Милявская сообщила об отмене концертов. По словам певицы, ее также «вырезают из эфиров». Дима Билан говорит, что зашел просто "поздороваться" между концертами и сразу ушел.
@F_S_C_P
-------
поддержи канал
-------
@F_S_C_P
-------
поддержи канал
-------
Telegram
Политика Страны
Российские артисты продолжают извиняться за скандальную голую вечеринку и высказывают поддержку российскому вторжению в Украину.
Филипп Киркоров еще раз заявил, что не знал о характере вечеринки, а как только узнал — сразу ушел. Просит не ограничивать его…
Филипп Киркоров еще раз заявил, что не знал о характере вечеринки, а как только узнал — сразу ушел. Просит не ограничивать его…
Борьба пропагандой ЛГБТ нарастает
Якутский государственный объединённый музей истории и культуры народов Севера им. Е.Ярославского (ЯГОМИК) вслед за Всероссийским научно-исследовательским геологическим институтом им. А. П. Карпинского (ВСЕГЕИ) также переименовался: в Якутский музей имени Ярославского.
_______
Источник | #vizioner_rf
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Якутский государственный объединённый музей истории и культуры народов Севера им. Е.Ярославского (ЯГОМИК) вслед за Всероссийским научно-исследовательским геологическим институтом им. А. П. Карпинского (ВСЕГЕИ) также переименовался: в Якутский музей имени Ярославского.
_______
Источник | #vizioner_rf
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
💡Играем со светом в генерации изображений.
Подходит для Midjourney и Dall-e 3.
🔸Reflection — Отражение;
🔸Refraction — Преломление;
🔸Diffraction — Дифракция;
🔸Light Falloff — Слабое освещение;
🔸Depth of Field — Увеличение глубины резкости;
🔸Shadow Casting — Отбрасывание теней;
🔸Radiosity — Взаимное отражение света от поверхностей, подчеркивает объемность форм;
🔸Color Grading — Цветокоррекция.
_______
Источник | #neurohubone
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Подходит для Midjourney и Dall-e 3.
🔸Reflection — Отражение;
🔸Refraction — Преломление;
🔸Diffraction — Дифракция;
🔸Light Falloff — Слабое освещение;
🔸Depth of Field — Увеличение глубины резкости;
🔸Shadow Casting — Отбрасывание теней;
🔸Radiosity — Взаимное отражение света от поверхностей, подчеркивает объемность форм;
🔸Color Grading — Цветокоррекция.
_______
Источник | #neurohubone
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
ЯГОМИК опроверг распространённую в соцсетях информацию о том, чтомузей якобы сменил название из-за не в меру остроумных граждан. В силу своей распущенности некоторые усмотрели в аббревиатуре учреждения повод для неуместных насмешек.
В руководстве якутского государственного объединенного музея истории и культуры рассказали, что эта информация – всего лишь фейк. Никто не собирается переименовывать легендарный музей.
Дело в том, что у нас два официальных наименования: «Якутский государственный объединенный музей истории и культуры народов Севера им. Ем. Ярославского» и «Якутский музей». Они равнозначны. Просто раньше наш музей объединял музеи в районах, но они уже давно перешли под управление своих муниципалитетов. Тем не менее, длинное наименование мы решили не менять, даже тогда, когда у нас был ребрендинг
– рассказал директор учреждения.
Источник: https://t.iss.one/minpravda/10543
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
yakutia.kp.ru -
Директор Якутского музея с нашумевшей аббревиатурой: «Мы не собираемся отказываться от своего названия»
«ЯГОМИК» останется аббревиатурой Якутского музея имени Ярославского, но ее официально не используют
"Эксмо" оштрафовали на ₽900 тыс. за пропаганду нетрадиционных отношений из-за выпуска комикса "Голубь Геннадий" www.kommersant.ru
———
Индия собирается скопировать закон ЕС о зарядном порте USB type-C, предполагающий использование именно этого стандарта во всех смартфонах. Для Apple в Индии это может обернуться большими проблемами. Компания уже обратилась к властям Индии с просьбой сделать исключение для старых моделей, все еще производящихся в стране, либо отсрочку исполнения закона. https://t.iss.one/contentreview/8926
———
Минкульт Украины внес российского певца SHAMAN (Ярослав Дронов) в список лиц, угрожающих нацбезопасности страны.
———
США в этом месяце заставили Италию выйти из китайской программы «Нового шёлкового пути» iz.ru
———
Власти Израиля инвестируют $3,2 млрд в строительство завода Intel на юге страны.
———
Поставки свинины из РФ в Китай могут начаться уже в январе – через месяц после подписания протокола – Россельхознадзор
———
Потребление электроэнергии в России в 2023 году выросло на 4% - Новак — ТАСС
———
Туристический поток из России в Индонезию по итогам текущего года поставит исторический рекорд, он может составить порядка 155 тысяч визитов, превысив доковидные цифры более чем на 20%, — АТОР.
———
48 кубитов в действии: Гарвард представил первый в мире логический квантовый процессор eadaily.com
———
В 2023 году в Великобритании было установлено рекордное количество общественных зарядных устройств для электромобилей, с начала года и до 12 декабря было установлено почти 16 000 общественных зарядных устройств. gasandmoney.ru
———
Правительство прорабатывает возможность обслуживания в МФЦ по биометрии без использования паспорта.
———
Уведомление пользователей об очередном платеже за цифровые подписки может стать обязательным. Проект закона одобрен.
———
Reuters: SEC требует от потенциальных эмитентов спотовых Bitcoin ETF представить "окончательные изменения" в заявках к 29 декабря.
———
Банк России повышает с 1 марта 2024 года надбавки к коэффициентам риска по ипотечным кредитам, чтобы ограничить риски закредитованности граждан.
———
Amazon докладывают о тестировании спутников системы Kuiper.
Лазерный линк между двумя тестовыми спутниками установлен успешно на скорости около ста гигабит в секунду.
———
В 2023 году в ЕС было зарегистрировано почти тысяча новых криптовалютных компаний
———
Депутаты предложили запретить сцены подростковой жестокости в новостях и интернете rg.ru
———
На российском рынке в ноябре реализовано 14,4 тыс. автомобилей Haval, что в 3,2 раза больше, чем год назад. carnnews.com
———
@F_S_C_P
-------
поддержи канал
-------
———
Индия собирается скопировать закон ЕС о зарядном порте USB type-C, предполагающий использование именно этого стандарта во всех смартфонах. Для Apple в Индии это может обернуться большими проблемами. Компания уже обратилась к властям Индии с просьбой сделать исключение для старых моделей, все еще производящихся в стране, либо отсрочку исполнения закона. https://t.iss.one/contentreview/8926
———
Минкульт Украины внес российского певца SHAMAN (Ярослав Дронов) в список лиц, угрожающих нацбезопасности страны.
———
США в этом месяце заставили Италию выйти из китайской программы «Нового шёлкового пути» iz.ru
———
Власти Израиля инвестируют $3,2 млрд в строительство завода Intel на юге страны.
———
Поставки свинины из РФ в Китай могут начаться уже в январе – через месяц после подписания протокола – Россельхознадзор
———
Потребление электроэнергии в России в 2023 году выросло на 4% - Новак — ТАСС
———
Туристический поток из России в Индонезию по итогам текущего года поставит исторический рекорд, он может составить порядка 155 тысяч визитов, превысив доковидные цифры более чем на 20%, — АТОР.
———
48 кубитов в действии: Гарвард представил первый в мире логический квантовый процессор eadaily.com
———
В 2023 году в Великобритании было установлено рекордное количество общественных зарядных устройств для электромобилей, с начала года и до 12 декабря было установлено почти 16 000 общественных зарядных устройств. gasandmoney.ru
———
Правительство прорабатывает возможность обслуживания в МФЦ по биометрии без использования паспорта.
———
Уведомление пользователей об очередном платеже за цифровые подписки может стать обязательным. Проект закона одобрен.
———
Reuters: SEC требует от потенциальных эмитентов спотовых Bitcoin ETF представить "окончательные изменения" в заявках к 29 декабря.
———
Банк России повышает с 1 марта 2024 года надбавки к коэффициентам риска по ипотечным кредитам, чтобы ограничить риски закредитованности граждан.
———
Amazon докладывают о тестировании спутников системы Kuiper.
Лазерный линк между двумя тестовыми спутниками установлен успешно на скорости около ста гигабит в секунду.
———
В 2023 году в ЕС было зарегистрировано почти тысяча новых криптовалютных компаний
———
Депутаты предложили запретить сцены подростковой жестокости в новостях и интернете rg.ru
———
На российском рынке в ноябре реализовано 14,4 тыс. автомобилей Haval, что в 3,2 раза больше, чем год назад. carnnews.com
———
@F_S_C_P
-------
поддержи канал
-------
Коммерсантъ
«Эксмо» оштрафовали на 900 тыс. руб. за пропаганду ЛГБТ в комиксе «Голубь Геннадий»
Подробнее на сайте
This media is not supported in your browser
VIEW IN TELEGRAM
"Это твои деньги, я держу их для тебя, как в банке..."
Леон (1994)
банк могут ограбить, старый добрый Тони, касса, общак, теневой банкир, всё в голове, мафия, Жан Рено
Подписаться на канал "Видеоцитаты"
_______
Источник | #cinema_smile
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram
Леон (1994)
банк могут ограбить, старый добрый Тони, касса, общак, теневой банкир, всё в голове, мафия, Жан Рено
Подписаться на канал "Видеоцитаты"
_______
Источник | #cinema_smile
@F_S_C_P
Генерируй картинки с ⛵️MIDJOURNEY в Telegram