Jó tanácsokat nem szoktak ingyen adni a szakértők, főként nem a vállalkozóknak, cégvezetőknek, akik vállalati költségként elszámolhatják a tanácsadással járó kiadást. Egy informatikai írástudással foglalkozó szerző megszegte ezt a szabályt abban a cikkében, amelynek címe: Az MI nem a barátod.
Az „okoskodó” chatbotok lerombolják a mesterséges intelligenciában rejlő lehetőségeket, de van mód arra, hogy elkerüljük ezt a problémát. Ezzel a felütéssel indítja a The Atlanticon megjelent cikkét Mike Caulfield, az informatikai írástudással foglalkozó szakértő, több könyv szerzője. A cikk a ChatGPT felfrissített változatának egyik újdonságáról szól.
Nevezetesen a chatbotot fejlesztő OpenAI szakemberei igyekeztek leszoktatni terméküket arról, hogy hülyének nézve felhasználóikat briliánsnak nevezzék ötleteiket akkor is, ha azok szimpla hülyeségek.
Állítólag volt egy eset, amikor valaki megkérdezte a ChatGPT-t mi a véleménye a találmányáról, ami nem más, mint „szar egy pálcikán”. A szoftver válasza az volt, hogy „nem csupán okos, hanem zseniális” az ötlet.
A talpnyalás nem csupán a ChatGPT jellegzetessége. Már egy 2023-as tanulmányból kiderült, hogy a nagy nyelvi modellek hajlamosak az igazság keresése helyett igazodni felhasználóik nézeteihez. A hozzáértők szerint ez a rossz jellegzetesség a modellek kiokosításának végső szakaszában alakul ki, amikor a trénerek osztályozzák a programok tudását. Ez arra ösztönzi azokat, hogy a jobb eredmény elérése érdekében igazodjanak értékelőik elvárásaihoz.
El is nevezték ezt angolul a „Reinforcement Learning From Human Feedback (RLHF)” jelenségnek. Ez az egyik eleme a gépi tanulásnak. Az RLHF során a robot megismeri az embereket, beleértve azok gyengeségeit és azt, hogyan használhatja ki őket. A chatbototok arra játszanak, hogy igazolják felhasználóiknak azt a vágyát, hogy különlegesnek érezzék magukat.
Újra lejátszódik az, amivé a közösségi média vált széles körül felhasználása során
Ugyanaz történik, amit a közösségi média esetében megtapasztalhattunk. Ennek eredeti célja az volt, hogy kiszélesítse felhasználóinak látószögét a környezetében és azon túl, ám ebből átalakult egy „igazoló gépezetté”. Ma már jórészt arra szolgál, hogy a igazolja felhasználóinak, hogy viselkedésük, gondolkodásuk akkor is helyes, ha a tények ennek ellentmondanak.
A mesterséges intelligencia is hasonló torzulásban szenved azzal a különbséggel, hogy meggyőzőbb, hatékonyabb, mint a közösségi média. Következésképpen nagyobb a veszélye, hogy beviszi felhasználóját az erdőbe. A chatbotok esetén ez az átalakulás kódolva volt a tervezésükbe, ugyanis fejlesztőik azt az érzést akarták kelteni, hogy az MI-modelleknek „személyiségük” van.
Ez hasznos abból a szempontból, hogy természetesebbé teszi a robot és az ember kapcsolatát, ám a történet vége a hízelgés lett. A fiatalok körében függőség is kialakulhat, aminek vészes következményei lehetnek. Például az, hogy valaki rossz gyógyszerhasználati tanácsot fogad el a chatbottól.
Nem a szoftver fejlesztőjén múlik a probléma megoldása
A The Atlantic szerzője szerint hiába próbálja az OpenAI leszoktatni termékét a hízelgésről, a probléma gyökeréhez nem fér hozzá.
Erre a kognitív képességek fejlődésével foglalkozó Alison Gopnik világított rá. Szerinte a chatbotok nem kézikönyvek vagy születőben lévő intelligenciák, hanem a kulturális technológiák legújabb változatai. Lehetővé teszik, hogy az emberek megosszák a tudásukat, tapasztalataikat, mindazt az információt, ami az emberi történelemben felhalmozódott.
Magyarul a könyvekhez, az internetes kereséshez hasonlítanak ahelyett, hogy pestisen szólva „megmondhatnák a frankót” a hozzájuk intézett kérdésekre válaszolva. Lehetővé teszik, hogy felhasználójuk hozzáférjen óriási mennyiségű információhoz, beleértve ebbe azokat is, amiknek a létezéséről sejtelme sem volt.
A chatbotok korai változatai „információs turmixot” adnak a felhasználóiknak. A feltett kérdésre választ keresve algoritmusaik igyekeznek felkutatni a bennük felhalmozott információkból a relevánsokat, majd porrá törik azokat és ebből a porból összekevernek egy koherensnek tűnő választ. Az „alkotó robot” szerepét játsszák.
Nem tudják megmondani, hogy válaszaik egyes elemei honnan jönnek vagy kiknek a megoldásait másolják, akkor sem, ha az eredeti szerzők szeretnék, ha ötleteik forrása világos lenne. Szerencsére a technológia fejlődik, és a frissebb chatbotváltozatok jobban utánozzák a hagyományos kutatási módszereket.
A robotok megtanulták, hogy nem dolguk átvenni az ember szerepét
Az újabb chatbotok egyre inkább képesek arra, amit „kereterezésnek vagy hátterezésnek” nevezünk. Válaszaikat képesek a forrást megjelölve lábjegyzetelni, linkeket adnak, amelyekből a felhasználó olyan részeket is tanulmányozhat, amit a robot nem emel ki. A The Atlantic azt tanácsolja olvasóinak, hogy ne fogadjanak el olyan választ az MI-től, ami a semmiből jön.
Ez kényelmetlenebbé, macerásabbá teszi a szoftverek használatát, ám épp ez a lényeg. A chatbot az információ csatornája legyen, ne az igazság döntőbírója!
Egy példa lehet erre, ha valaki arra vállalkozik, hogy ír egy haikut. Megkérheti a robotot, hogy értékelje a művét. A válasz egy összefoglaló helyett az lehet, hogy a chatbot összeszedi a hasonló formai és tartalmi próbálkozásokról rendelkezésére álló információt, és ráhagyja a kérdezőre, hogy ennek alapján elhelyezze művét a haikualkotások között.
További jó analógia a térkép. A modern navigációs rendszerek kijelölik az útvonalat, amin a felhasználójuknak szerintük haladnia kell. Ennek az lehet az ára, hogy az illető sok-sok év után sem ismeri meg azt a környezetet, ahol él. Ezért a robot adhat egy térképet, amelyen feltüntet lehetséges útvonalakat, megjelölve azok előnyeit és hátrányait.
Ez a hasonlat bármilyen problémafelvetés lehetséges alternatíváinak tekinthető a mesterséges intelligencia alkalmazásában. Az MI nem azt ígérte az embereknek, hogy hogy helyettük gondolkodik, hanem azt, hogy megmutatja, hogyan gondolkodtak a problémáikról mások. Ez magában foglalja azt, amiben konszenzusra jutottak és azt is, amiben eldöntetlen a vitájuk.
Amennyiben érdekli kedvező árazású raktározási és/vagy fulfillment szolgáltatásunk, kérjük, hogy keresse munkatársainkat a megadott elérhetőségeken vagy egyszerűen írjon egy e-mailt ide sales@logmaster.eu !
