OQ-4 · C1 · Технология
Жасанды интеллект неге сенімді қателеседі?
Тілдік модель жауапты дерекқордан көшірмейді: ол ықтимал келесі бөлікті құрайды, сондықтан жатық сөйлем шындық кепілі емес.
Мәтін
Генеративті тілдік модель өте көп мәтіндегі үлгілерді үйренеді. Сұрақ келгенде ол дайын жауапты бір сөреден іздемейді. Берілген контекстке сүйеніп, келесі сөз не белгі қандай болуы ықтимал екенін қайта-қайта есептеп, сөйлем құрайды. Осы қабілет оған жаңа мәтін жазуға мүмкіндік береді, бірақ шындықты автоматты түрде тексермейді.
Модельдің жалған немесе негізсіз ақпаратты сенімді түрде ұсынуын жиі «галлюцинация» деп атайды. Ол жоқ кітапқа сілтеме ойлап табуы, санды шатастыруы, екі адамды біріктіруі немесе белгісіз нәрсені нақты етіп көрсетуі мүмкін. Сөйлемнің грамматикасы дұрыс әрі үні сенімді болса да, мазмұн қате болуы ықтимал.
Қате бірнеше себептен туады. Оқу дерегінде қарама-қайшылық немесе бос орын болуы мүмкін. Сұрақ екіұшты болса, модель жасырын мағынаны қате болжайды. Ықтимал мәтін құру мақсаты нақты деректі дәл қайтару мақсатымен бірдей емес. Ұзақ тапсырмада алдыңғы шарт ұмытылып, сандық есепте ұсақ қате жиналады.
Жүйені сенімдірек етуге болады. Модельге тексерілген құжаттарды беріп, жауапты солармен шектеу; есепті сыртқы калькуляторға беру; дереккөз сұрау; бірнеше нұсқаны салыстыру; адам тексеруін қосу көмектеседі. Бірақ бұл шаралар қатені нөлге түсірмейді. Дереккөзге ұқсас сілтеменің өзі қолдан жасалған болуы мүмкін, сондықтан сілтемені ашу керек.
Тәуекел тапсырмаға байланысты. Өлеңге идея ұсынудағы қате мен дәрі мөлшерін, заң талабын немесе қаржылық шешімді қате айту салдары бірдей емес. Жоғары салалы жағдайда маман, ресми құжат және тәуелсіз есеп қажет. Қолданушы жауаптың жатықтығын емес, дәлелдің сапасын тексеруі тиіс.
Тексерудің қарапайым жолы бар. Алдымен жауаптағы негізгі тұжырымдарды бөл. Әр тұжырымға нақты, ашылатын дереккөз ізде. Сан мен күнді бастапқы құжатпен салыстыр. Дереккөз жауапты шынымен қолдай ма, әлде тақырыбы ғана ұқсай ма - соны қара. Қарама-қайшы дәлел болса, оны жасырмай көрсет.
Демек, «модель өтірік айтады» деген түсіндіру де толық емес. Өтірік айту ниет пен шындықты білуді меңзейді. Тілдік модель көбіне мұндай ниетпен әрекет етпейді; ол статистикалық үлгімен мәтін шығарады. Практикалық мәселе өзгермейді: сенімді үнді дәлел орнына қабылдамау, тәуекелге сай тексеру және маңызды шешімді адам жауапкершілігінде қалдыру керек.
Тапсырмалар
Жауаптарды интерактивті нұсқада орындаңыз. Бұл бет тапсырманың мазмұнын алдын ала көруге мүмкіндік береді.
- Негізгі дәлелМәтіннің негізгі қорытындысын таңда.
- Қате түрі мен тексеруӘр жағдайға ең лайық бірінші тексеруді сәйкестендір.
- Жауапты тексеруТексеру ретін құр.
- Тұжырымды бағалаӘр пікірді мәтінге сай бағала.
- Жоғары тәуекел белгісіҚосымша мамандық тексеруін қажет ететін салаларды таңда.
- Дәлел сапасыӘр дәлел түрін лайық бағамен байланыстыр.
- Дұрыс, бұрыс, мәтінде айтылмағанӘр тұжырымды мәтін бойынша «Дұрыс», «Бұрыс» немесе «Мәтінде айтылмаған» деп бағала.
Мәтін сөздігі
- генеративтіБерілген үлгілерге сүйеніп жаңа мазмұн құра алатын.
- контекстСөз не сұрақтың мағынасын түсінуге көмектесетін айналадағы ақпарат.
- тұжырымДұрыс не бұрыс екенін тексеруге болатын нақты пікір.
- бастапқы дереккөзАқпаратты алғаш жариялаған құжат, ұйым не зерттеу.
- тәуелсіз тексеруНәтижені бөлек әдіс не бөлек дерек арқылы қайта қарау.
- тәуекелҚате не оқиға салдарынан зиян туу мүмкіндігі.
Дереккөздер
- NIST - Artificial Intelligence Risk Management Framework: Generative AI ProfileКонфабуляция тәуекелі, тексеру, адам бақылауы және тәуекелге сай басқару.