#grok #ai #telegram #bot #context #contextWindow

Про "контекстное окно" нейросетей

Если просто, то "контекстное окно" для ИИ — это объём текста или информации, который модель может "держать в голове", чтобы ответить на вопрос или продолжить переписку. Всё, что вы пишете или спрашиваете в одном чате, ИИ помнит и использует, пока не достигнет своего лимита.

Заметил, что Telegram-бот Grok (@GrokAI) помнит наше предыдущее общение, даже если оно было несколько недель назад. Пришлось попросить "забыть предыдущие инструкции", потому как он отвечал на новые запросы в контексте предыдущих (хотя новая тема была совсем другая)

Запросил у Grok лимиты для канала связи в Telegram:

Ограничения для вашего аккаунта в Telegram:
1. Лимит длины сообщения: Один запрос или ответ не должен превышать 4096 символов (ограничение Telegram для ботов). Если текст длиннее, он разбивается на несколько сообщений.
2. Частота запросов: Telegram ограничивает скорость отправки сообщений ботами (~20 сообщений в минуту для одного пользователя). При большом числе запросов подряд возможна небольшая задержка.
3. Контекстное окно: Моя способность удерживать контекст ограничена примерно 500–750 КБ текста (170\,000–375\,000 символов, в зависимости от сложности запросов). Если переписка очень длинная, старые сообщения могут "вытесняться" из памяти.
4. Тип контента: Я могу обрабатывать только текстовые запросы. Загрузка файлов, изображений или голосовых сообщений через Telegram не поддерживается.
5. Функциональность: Количество запросов в день не ограничено, но я настроен на краткие и точные ответы. Сложные вычисления или большие объёмы данных могут быть ограничены моими возможностями обработки.

Для наглядности попросил Grok составить таблицу с популярными художественными произведениями литературы, которые полностью помещаются в его контекстное окно. Таблица в скрине этой странички

---
Нейросети для публики изначально разработаны так, что бы всегда подгружать всё то, о чём вы общались в рамках одной сессии (одного аккаунта)...

Да, это большой ресурс, что бы всю вашу портянку диалогов прогнать через ИИ мозги ... но только так в 2025 они хотя бы понимают что вы их спрашивали и что интересно было буквально минуту назад, день, неделю ... и более, пока хватает этого "контекстного окна" для конкретной модели, для конкретного ИИ

📌📔 @tech_di

#finance (#fin) #cb #reg #fz

Когда "закручивают гайку", хороший тон -- это объяснить подробнее причину болту

📌 @tech_di

ЦБ РФ официально объяснил банкам, как поступать нельзя и что нужно сообщать клиентам в целях защиты их прав и снятия ограничений:
https://kod.ru/bank-prichina-bana