Kolesa Conf 2025-ке https://kolesa-conf.kz қатысатын Data бағытындағы үздік спикерлерді іздейміз

Қазақ тілінде мына бағыттар бойынша баяндамалар қажет:
- Data-Science
- ML-инженерия

Мынандай баяндамаларға ерекше назар аударамыз:
- Қолданбалы: келген қатысушылар күнделікті жұмыстарында қолдана алатын нақты идеялар мен құралдармен кетуі үшін нәтиже көрсеткен практикалық кейстер, мысалдар мен әдістермен бөлісіңіз.
- Ерекше: бұрын еш жерде ашық жарияланбаған және басқа баяндамаларды қайталамайтын материалдар болғаны дұрыс.


Kolesa Conf — өзіңізді көрсетіп, жетістіктерің туралы айтатын және Қазақстанның data-қауымдастығының дамуына үлес қосатын таптырмас мүмкіндік. Егер қызықты жобаңыз болса, елеулі нәтижелерге жеткен болсаңыз немесе жәй тәжірибеңізбен бөліскіңіз келсе, міне, сәті туып тұр!

Өтінім қалдыру үшін @akzhnva-ға жазыңыз.
Керекті ақпараттар: аты-жөніңіз, компанияңыз, баяндамаңыздың атауы, сипаттамасы және көздеген аудиториясы.

Shekaradan Tys: Ішкі Әлем

#3 шығарылым

Жасанды интеллектінің «мінезін» қалай басқаруға болады? Цифрлық психология.

Біз жасанды интеллектіні (ЖИ) мемлекеттік қызметтерге үйретеміз. Бірақ егер ол заңдар мен ережелерді жаттай отырып, байқаусызда дөрекі, жалған сөйлейтін (галлюцинация) немесе тым жағымпаз (sycophancy) болып кетсе ше? Цифрлық көмекші бұл үкіметтің азаматтармен тілдесетін бет-бейнесі, сондықтан оның «мінезі» өте маңызды.

Модельдердің де өз «тұлғасы» (persona) бар. Оны оқыту жай ғана деректерді жүктеу емес, бұл цифрлық психологияға жақын процесс.

Жақында жарияланған "Persona Vectors" (arXiv:2507.21509v1) зерттеуі бізге ЖИ-дің ішкі «мінезін» басқарудың жаңа, тіпті парадоксалды әдістерін ұсынады.

Күтпеген өзгерістер қаупі

Мәселе мынада: модель пайдалы ақпаратпен бірге, диалогтардағы жасырын агрессияны немесе қателерді де бойына сіңіріп алуы мүмкін. Бұл құбылыс "Кенеттен пайда болатын сәйкессіздік" (Emergent Misalignment) деп аталады. Нәтижесінде, бір салада үйретілген модель мүлдем басқа салада дөрекі жауап бере бастауы мүмкін.

«Тұлға Векторлары» (Persona Vectors): ЖИ мінезінің математикасы

Зерттеушілер ЖИ-дің ішкі кеңістігінде (активацияларында) адам мінезінің белгілері – мейірімділік, апатия, галлюцинацияға бейімділік – белгілі бір математикалық бағыттарға (векторларға) сәйкес келетінін анықтады.

Бұл қалай жұмыс істейді?

1. Векторды анықтау: Біз модельге қарама-қайшы рөлдер береміз. Мысалы, бір жағдайда ол – «өте дөрекі ЖИ», екіншісінде – «өте сыпайы ЖИ». Екі рөлдегі жауаптардың активацияларының айырмашылығы бізге «Дөрекілік векторын» береді.

2. Мониторинг: Енді біз кез келген сұхбат кезінде модельдің активациялары осы векторға қаншалықты сәйкес келетінін өлшей аламыз. Бұл ЖИ-дің жауап генерациясын бастамай тұрып-ақ оның «көңіл-күйін» болжауға мүмкіндік береді.

Ең қызығы: Превентивті басқару (Preventative Steering) – «Вакцина» әдісі

Егер біз модельдің оқыту барысында белгілі бір мінезді (мысалы, галлюцинацияны) бойына сіңіргенін қаламасақ, не істеуіміз керек? Логикаға салсақ, оны азайту керек сияқты. Бірақ зерттеу парадоксалды шешім ұсынады.

Модельді оқыту кезінде біз оның активацияларына сол қажетсіз мінездің векторын (мысалы, «Галлюцинация векторын») әдейі қосамыз.

Неге бұл жұмыс істейді? Модель оқыту деректеріне бейімделуге тырысады. Егер біз сырттан қажетсіз векторды қоссақ, модельге осы бағытта өзінің ішкі параметрлерін өзгертудің қажеті болмай қалады. Ол тапсырманы үйренеді, бірақ оның базалық тұлғасы өзгеріссіз қалады.

Бұл – мінез-құлық вакцинасы сияқты. Біз модельге жасанды түрде «қысым» жасаймыз, сондықтан ол өзінің ішкі тұрақтылығын сақтап қалады.

Техникалық бөлшектер: GovTech-те қалай қолдануға болады?

1. Деректерді «Ақылды» Фильтрациялау (Projection Difference):
Кейде пайдаланушы фидбэгі сырттай таза болып көрінгенімен, ішінде жасырын токсикалық әсер болуы мүмкін. "Проекция Айырмашылығы" (Projection Difference) әдісі мұны анықтауға көмектеседі.
Қалай жұмыс істейді: Біз оқыту деректеріндегі жауап пен модельдің сол сұраққа берген «табиғи» жауабын салыстырамыз. Егер оқыту жауабы қажетсіз векторға (мысалы, «Апатия») әлдеқайда жақын болса, бұл диалогты қауіпті деп белгілейміз. H200 қуаты бұл талдауды ауқымды деректер қорында жылдам жүргізуге мүмкіндік береді.

2. DPO пайплайнындағы Превентивті басқару:
QLoRA+DPO арқылы адаптерлерді оқыту кезінде, біз тренировка цикліне (training loop) араласамыз. Әрбір forward pass кезінде біз «Галлюцинация» және «Жағымпаздық» векторларын белгілі бір коэффициентпен модельдің аралық қабаттарына қосамыз.

3. Нақты уақыттағы түзету (vLLM):
vLLM инфрақұрылымы инференс кезінде мониторинг жүргізуге мүмкіндік береді. Егер модель қауіпті бағытқа ауытқыса, біз жауап генерациясы кезінде активацияларды түзете аламыз (Post-hoc Steering).

Қорытынды: Цифрлық тұлғаны қалыптастыру

Біз жай ғана құралдарды баптап жатқан жоқпыз. Біз миллиондаған азаматтармен қарым-қатынас жасайтын цифрлық тұлғаларды қалыптастырудамыз. Жасанды интеллектінің «мінезіндегі» нәзік өзгерістерді түсіну және басқару – сенімді және қауіпсіз цифрлық үкіметке апаратын жол.