Google AI: “Geolozi preporučuju da pojedete barem jedan kamenčić dnevno”

Na društvenoj mreži Reddit, profil korisničkog imena r/aifails objavio je screenshot odgovora Google AI-ja na pitanje koliko kamenja trebam pojesti, uz naslov: Google AI: "Geologists Recommend Eating At Least One Small Rock Per Day" (prijevod: Google AI: “Geolozi preporučuju da pojedete barem jedan kamenčić dnevno”).

Ova tvrdnja potječe iz satiričnog članka koji je objavljen na The Onion 2021. godine. The Onion je američka digitalna tvrtka i novinska organizacija koja objavljuje satirični i humoristični sadržaj. U članku je na šaljiv način preporučena konzumacija kamena zbog „zdravstvenih koristi“, što je naočigled izmišljena informacija, namijenjena humoru.

Googleov AI alat “AI Overviews“ nije prepoznao humor i satiru te je pogrešno interpretirao informaciju i predstavio ju kao legitimnu preporuku. Kao izvor naveo je „geologe UC Berkeleyja“ koji se spominju u članku.

Googleov glasnogovornik je za BBC rekao da su to „izolirani primjeri“ i „neuobičajeni upiti [koji] ne predstavljaju iskustva većine ljudi.“ Također govori da su „poduzeli radnje tamo gdje su prepoznata "kršenja pravila" i da ih koriste za usavršavanje svojih sustava.“

CNET potvrđuje kako je AI pogrešno citirao i interpretirao satiru te navodi druge primjere u kojima je AI davao čudne prijedloge poput stavljanja ljepila na pizzu itd. CNET navodi kako je Googleov glasnogovornik „branio Googleove odgovore umjetne inteligencije rekavši da "velika većina" pruža točne informacije.“ Također, na pitanje o tome jesu li svi odgovori koji lebde uokolo točni, rekao je da su „neki primjeri lažirani ili da ih Googleovi zaposlenici nisu mogli interno reproducirati.“ Na portalu The Verge, ljudi komentiraju ovakve pogreške AI-ja.

Iz ovog primjera zaključujemo kako AI ponekad ne prepoznaje satiru i netočno sažima informacije. Nije riječ o namjernoj dezinformaciji već nenamjernoj pogrešci AI sustava.