Kërkojini një chatbot-i modern të inteligjencës artificiale të shpjegojë inflacionin, të përmbledhë një roman ose të hartojë një aplikim pune, dhe ai do të përgjigjet brenda sekondash me prozë të qartë e të organizuar mirë. Përvoja mund të duket si bisedë me një ekspert. Megjithatë, të njëjtat sisteme ndonjëherë citojnë studime që nuk ekzistojnë, japin data të gabuara ose përshkruajnë me bindje ngjarje që nuk kanë ndodhur kurrë. Të dyja sjelljet burojnë nga i njëjti dizajn.
Mësimi i modeleve të gjuhës
Teknologjia pas chatbot-ëve të sotëm është modeli i madh gjuhësor. Gjatë trajnimit, modeli përpunon një koleksion të madh tekstesh (libra, artikuj, faqe interneti, kod e të tjera) dhe përpiqet vazhdimisht të parashikojë pjesën e radhës të tekstit në një varg. Sa herë gabon, parametrat e tij të brendshëm rregullohen pak. Pas miliarda rregullimeve të tilla, modeli bëhet jashtëzakonisht i aftë të prodhojë tekst që ndjek modelet e shkrimit njerëzor.
Modeli nuk i ruan dokumentet si një bibliotekë. Ai ruan marrëdhënie statistikore: cilat fjalë, ide dhe struktura priren të shfaqen bashkë. Prandaj mund të shkruajë për tema në kombinime të reja, të përkthejë mes gjuhëve dhe të përshtatë tonin. Prandaj edhe nuk ka një ndjesi të brendshme nëse një fjali e caktuar është e vërtetë.
Nga parashikimi te biseda
Një model gjuhësor i papërpunuar thjesht e vazhdon tekstin. Për ta bërë asistent të dobishëm, zhvilluesit e trajnojnë më tej me shembuj përgjigjesh të mira dhe përdorin vlerësimet e rishikuesve njerëzorë për të shpërblyer përgjigjet e sakta, të dobishme dhe të sigurta. Kjo fazë formëson stilin miqësor dhe të strukturuar që e njohin përdoruesit. Ajo e mëson modelin edhe të refuzojë disa kërkesa dhe të pranojë pasigurinë, megjithëse jo gjithmonë në mënyrë të besueshme.
Pse ndodhin “halucinacionet”
Kur një model shpik një fakt, studiuesit e quajnë halucinacion. Kjo ndodh sepse modeli gjithmonë gjeneron vazhdimin më të besueshëm, jo duke nxjerrë një regjistër të verifikuar. Nëse pyetja ka të bëjë me diçka të rrallë, të re ose të paqartë, përgjigjja që tingëllon më e besueshme mund të jetë thjesht e gabuar. Kërkesa për referenca akademike është shembull klasik: modeli e di si duket një citim dhe prodhon një të tillë në formatin e duhur, me autorë dhe revista realiste, edhe kur ai punim nuk ekziston.
Modelet kanë edhe një datë kufi të njohurive. Nëse nuk janë të lidhura me mjete kërkimi ose baza të dhënash, ato nuk dinë asgjë për ngjarjet pas mbledhjes së të dhënave të trajnimit dhe mund të mos e kuptojnë se informacioni i tyre është i vjetëruar.
Si po i pakësojnë gabimet zhvilluesit
Disa teknika ndihmojnë. Lidhja e chatbot-it me motorë kërkimi ose me dokumente të kompanisë i lejon t’i mbështesë përgjigjet në burime të gjetura dhe të tregojë lidhje që përdoruesit mund t’i kontrollojnë. Trajnimi i modeleve për të thënë më shpesh “nuk e di” i pakëson përgjigjet e shpikura, megjithëse mund t’i bëjë më pak të dobishme. Sistemet më të reja shpenzojnë gjithashtu më shumë llogaritje duke “arsyetuar” hap pas hapi para se të përgjigjen, gjë që përmirëson rezultatet në matematikë dhe logjikë. Asnjë nga këto metoda nuk i eliminon plotësisht gabimet.
Si t’i përdorni me mençuri
Asistentët e IA-së janë vërtet të dobishëm për hartim, ide, shpjegim konceptesh, përmbledhje dokumentesh të gjata dhe shkrim kodi. Rreziku rritet kur rezultati përdoret pa u kontrolluar, sidomos për vendime mjekësore, ligjore ose financiare, ose kur publikohet si fakt. Një rregull praktik është ta trajtoni chatbot-in si një koleg të lexuar mirë, por herë pas here të pakujdesshëm: i dobishëm për draftin e parë, por jo autoriteti përfundimtar.
Zakonet e mira përfshijnë kërkimin e burimeve dhe hapjen e tyre, krahasimin e përgjigjeve me faqet zyrtare, kujdesin e veçantë me numrat, emrat dhe datat, si dhe shmangien e ndarjes së informacionit personal të ndjeshëm në kërkesa.
Çfarë do të thotë kjo për lajmet
Për gazetarinë, IA sjell dy sfida njëherësh. Redaksitë mund t’i përdorin këto mjete për të transkriptuar intervista, për të përkthyer materiale dhe për të analizuar të dhëna më shpejt. Në të njëjtën kohë, interneti po mbushet me tekste, imazhe dhe audio të gjeneruara nga makinat, që mund të prodhohen pothuajse pa kosto. Kjo e bën verifikimin (kontrollin se kush tha çfarë, kur dhe ku) më të rëndësishëm se kurrë. Rrjedhshmëria e makinës është mbresëlënëse; përgjegjësia për saktësinë mbetet e njerëzve.



