Shekaradan Tys: Ішкі Схемалар

#4 шығарылым

Нейрондық Схемаларды Өңдеу (NCE). Жасанды миға жасалған хирургия.

Біз үлкен тілдік модельдерді (LLM) ұзақ уақыт бойы «қара жәшік» ретінде қабылдадық. Ақпаратты береміз, жауап аламыз. Бірақ оның ішіндегі ойлау процесі бізге беймәлім болды. Егер модель қателессе, галлюцинация жасаса немесе біржақты пікір білдірсе, бізде көбінесе тек бір ғана шешім болды: оны жаңа деректермен қайта оқыту (fine tuning). Бұл қымбат, ұзақ және жиі күтпеген жанама әсерлерге әкеледі.

Бүгінгі көзқарас түбегейлі өзгерді. Ғалымдар енді модельді біртұтас құрылым емес, өзара байланысқан модульдер мен схемалардың күрделі жүйесі ретінде көре бастады. Бұл бізге жаңа мүмкіндік береді: ЖИ ді үйретудің орнына, оны жөндеу.

Бұл тәсіл Нейрондық Схемаларды Өңдеу (Neural Circuit Editing, NCE) деп аталады. Бұл ЖИ ді дамытудан ЖИ хирургиясына жасалған қадам.

Қара Жәшіктен Шығу

Мәселе модельдің қалай жұмыс істейтінін түсінбеуде еді. Механистикалық Түсіндіру (Mechanistic Interpretability) ғылымы ЖИ дің ішкі әлеміне үңілуге мүмкіндік береді. Негізгі идея: әрбір дағды, білім немесе тіпті қателік модельдің ішкі архитектурасында белгілі бір нейрондық байланыстарға (схемаларға) сәйкес келеді.

Егер біз осы схемаларды таба алсақ, біз оларды басқара аламыз.

Механизм: Диагностика және Интервенция

NCE процесі екі негізгі кезеңнен тұрады: Диагностика және Интервенция. Біз модельдің оқытылған салмақтарын (weights) өзгертпейміз. Оның орнына, біз оның жұмыс барысындағы (инференс кезінде) ішкі күйіне әсер етеміз.

1. Диагностика (Causal Tracing):
Алдымен біз мәселенің қайда екенін анықтауымыз керек. Causal Tracing (Себепті іздеу) әдісі бізге нақты мінез құлыққа немесе фактіге модельдің қай нейрондары мен қабаттары жауапты екенін табуға көмектеседі. Мысалы, біз модельдің қай жерде «Астана Қазақстанның астанасы» деген білімді сақтайтынын немесе қай схема оның галлюцинацияға бейімділігін тудыратынын анықтай аламыз.

2. Интервенция (Activation Patching):
Қажетті схеманы тапқаннан кейін, біз оның жұмысына араласамыз. Activation Patching (Активацияны жамау) техникасы модельдің жауап генерациялау процесі кезінде белгілі бір нейрондардың активация мәндерін күштеп өзгертуге мүмкіндік береді.

Ең қызығы: Модульдік Трансплантация

NCE тің басты артықшылығы модельді толығымен қайта оқытпай ақ, оның мінез құлқын мақсатты түрде өзгерту мүмкіндігінде. Біз галлюцинацияға бейім «түйіндерді» анықтап, оларды оқшаулай аламыз.

Бұл бізге «Анти Галлюцинация Модулін» жасауға және оны кез келген ЖИ ге интеграциялауға мүмкіндік береді. Бұл модельдің негізгі біліміне әсер етпей, тек оның сенімділігін арттырады.

Техникалық бөлшектер: Нейрондарды Басқару

NCE қалай жүзеге асырылады?

1. Causal Tracing (Себепті іздеу):
Критикалық жолды қалай табамыз? Біз модельге нақты сұраныс енгізіп, активация ағынын бақылаймыз. Содан кейін біз желінің әртүрлі қабаттарын іріктеп «зақымдаймыз» (noise injection). Егер белгілі бір аймақты зақымдау нәтижені күрт өзгертсе, демек бұл аймақ сол функция үшін өте маңызды. Бұл ЖИ үшін функционалдық МРТ сияқты.

2. Activation Patching (Активацияны жамау):
Бұл нақты уақыттағы интервенция. Модельдің жұмысы кезінде (инференс) біз арнайы ілгектерді (hooks) пайдаланамыз. Бұл ілгектер процесті белгілі бір қабатта тоқтатуға, ішкі күйді (активацияларды) оқуға, оларды біздің мақсатымызға сай өзгертуге (мысалы, қажетсіз мінез құлық векторын азайту) және процесті жалғастыруға мүмкіндік береді.

3. Білімді Өңдеу (Knowledge Editing):
NCE тек мінез құлықты басқарумен шектелмейді. ROME немесе MEMIT сияқты әдістер модельдің салмақтарында (weights) сақталған нақты фактілерді түзетуге мүмкіндік береді. Егер модель ескірген ақпаратты берсе, біз оның ішіндегі сол білімге жауапты шағын аймақты тауып, оны хирургиялық дәлдікпен жаңарта аламыз.

Қорытынды: Жасанды Сананың Нейроинженерлері

«Қара жәшік» дәуірі аяқталуда. Біз түсініксіз алгоритмдерден интерпретацияланатын және басқарылатын жасанды интеллектіге қарай жылжып жатырмыз. Біз енді ЖИ ді жай ғана үйретуші емеспіз. Біз жасанды сананың нейроинженерлеріне айналудамыз, оның функцияларын реттей аламыз

Сәлем, достар👋🏻

🤖 Machine Learning & AI — жаңа деңгейде!

Ұзақ үзілістен кейін қазақ тіліндегі IT митаптар қайта оралады!
Бұл жолы біз QazCode компаниясымен бірлесіп өткізетін ерекше кездесуде жасанды интеллекттің қыр-сырын талқылаймыз.

📅 21 қараша | 18:00–20:00
📍 Алматы, Политехническая к., 2, Element Tower, 2-қабат (Beeline жаңа офисы)
💸 Қатысу тегін!
📲 Тіркел: https://forms.gle/A8ZJAeasSQmUR2Kw5

Жақында спикерлер тізімімен таныстырамыз 💡

Кел, бірге қазақша IT қауымдастығын дамытайық!