C такими темпами падения стоимости инференса мы и 1руб. за 1 млн. токенов увидим совсем скоро.
И вот выбор, - купить видеокарту за 500тыс (с компом) или пользовать 500млрд токенов...
А на это времени уйдёт примерно столько, за сколько карта обесценится и её придётся менять опять.

#цены
———
@tsingular

Собственно ответ на вопрос зачем нужны локальные модели на своих видеокартах.

Чтобы глаза оставались внутри орбит.

£700 на 1 пользователя в месяц.

#Microsoft #Copilot #цены
------
@tsingular