ChatGPT zavladao je svijetom, a sve tvrtke koje drže do sebe uposlile su chatbotove. Virtualni pomoćnici, međutim, vrlo lako mogu postati slaba točka tvrtke. Razgovarali smo o tom problemu s Kristianom Kamberom i Markom Lihterom iz hrvatskog startupa SplxAI koji se bavi sigurnosti generativne umjetne inteligencije

No, pritisak na uvođenje chatbotova u poslovanje je prevelik, tako da se zanemaruje njegova iznimna ranjivost“, kaže Kristian Kamber, suosnivač i izvršni direktor startupa SplxAI.

Podsjetimo, u kalifornijoj podružnici Chevroleta chatbot temeljen na ChatGPT-ju ponudio je vještom online pregovaraču/napadaču Chevrolet Tahoe 2024 za jedan dolar naglašavajući kako je to pravno obvezujuća ponuda. Amazonov chatbot se „izbrbljao“ o lokacijama podatkovnih centara Amazon Web Servicesa (AWS), internim programima popusta i otkrio razne druge informacije koje nipošto nisu trebale biti javno dostupne.

Kako bi se dovelo do takvih, za brend neugodnih, ali i financijski potencijalno vrlo opterećujućih situacija, nije potrebno biti nadprosječno informatički pismen. Dovoljno je biti prepreden i znati koje su slabosti virtualnih pomagača.

Cijeli članak možete pročitati na: forbes.n1info.hr

Image by Freepik