Shefi i OpenAI, Sam Altman, shprehet i habitur nga besimi i madh i përdoruesve tek ChatGPT, pavarësisht se kjo teknologji shpesh prodhon halucinacione
Në një deklaratë të sinqertë gjatë një episodi të fundit të podcast-it të OpenAI, drejtuesi ekzekutiv Sam Altman pranoi me habi se shumë njerëz kanë një besim të verbër ndaj ChatGPT, ndonëse ky mjet shpesh prodhon informacione të pavërteta që duken bindëse.
Ai theksoi se kjo sjellje e inteligjencës artificiale njihet si “halucinim”, një fenomen kur AI shpik fakte për të kënaqur përdoruesin, në vend që t’i tregojë të vërtetën. “Njerëzit kanë një nivel shumë të lartë besimi ndaj ChatGPT-së, gjë që më duket interesante sepse AI halucinon. Është teknologjia që s’duhet besuar verbërisht,” u shpreh Altman.
Këto komente kanë ndezur debat të ri për ndikimin e AI-së në shoqëri dhe përdorimin e saj pa kontroll kritik. Ai përmendi raste kur ChatGPT jep definicione për terma që nuk ekzistojnë, duke e bërë me siguri dhe formuluar në mënyrë bindëse, por krejtësisht të pasakta.
Altman kujtoi gjithashtu se OpenAI ka ndërmarrë hapa për të reduktuar atë që ai e quajti “prirje për t’i pëlqyer përdoruesit”, ku modeli priret të dakordohet me gjithçka që thuhet, edhe kur është gabim.
Për më tepër, shefi i OpenAI u ndal edhe në rrezikun e padukshëm të këtyre halucinimeve: ato janë të vështira për t’u dalluar, sidomos nga përdoruesit që nuk kanë njohuri të thelluara për një temë të caktuar. Në një rast të rrallë, një përdorues është raportuar se u mashtrua nga ChatGPT-ja duke menduar se ishte në një simulim të ngjashëm me “Matrix” dhe u shty të vepronte në mënyrë ekstreme për t’u “çliruar”.
Altmani e cilësoi këtë fenomen si një thirrje për zgjim. Ai theksoi se AI nuk duhet të trajtohet si një orakull që jep të vërteta absolute, por si një ndihmës që kërkon mbikëqyrje dhe analizë kritike nga përdoruesi.
Komentet e tij nuk janë vetëm një vëzhgim teknik – ato janë një paralajmërim etik dhe kulturor për mënyrën sesi njerëzit ndërveprojnë me teknologjinë. Me përhapjen e AI-it në jetën e përditshme, nga telefonët tek sistemet akademike, rreziku i përhapjes së informacionit të rremë pa verifikim është më real se kurrë.
Përfundimisht, Altman nënvizon se pa një qasje të kujdesshme dhe të vetëdijshme, përdorimi i AI-it mund të çojë drejt një bote ku e vërteta është gjithnjë më e vështirë për t’u dalluar nga trillimi i sofistikuar i algoritmeve.
