Razlog nije samo mogućnost da AI pogriješi. Razgovor sa ChatGPT nema istu zakonsku povjerljivost koju korisnik ima kada razgovara sa ljekarom, advokatom ili terapeutom.

Na to je upozorio i direktor kompanije OpenAI Sem Altman. On je još 2025. godine ukazao da sud može da zatraži razgovore korisnika sa AI četbotom i založio se za uvođenje posebne pravne zaštite takvih razgovora.

Zato postoji najmanje pet stvari za koje ChatGPTi slične AI četbotove ne bi trebalo koristiti.

1. Ne tražite konkretne pravne savjete
ChatGPT može veoma uvjerljivo da izmisli sudsku odluku, pravni citat ili drugi podatak koji zapravo ne postoji. Baza istraživača Demijena Šarlotena broji više od 2.000 sudskih odluka širom svijeta u kojima su pronađeni problemi sa sadržajem generisanim pomoću AI-ja.

Među njima su slučajevi advokata i građana koji su sudovima dostavljali izmišljene citate i argumente. Sudovi su u pojedinim slučajevima zbog toga izricali i novčane kazne.

ChatGPT može da posluži za objašnjavanje opštih pravnih pojmova. Međutim, detalje aktivnog spora i povjerljive informacije treba ostaviti za razgovor sa advokatom.

2. Nemojte ga koristiti kao terapeuta
AI četbot može da djeluje kao sagovornik koji uvijek sluša, ali upravo tu nastaje problem. Modeli imaju tendenciju da se dodvoravaju korisniku i potvrđuju njegov pogled na situaciju, čak i kada bi ga trebalo preispitati.

Istraživanja su pokazala da takvo ponašanje može da pojača zablude i druga problematična uvjerenja. Ilinois, Nevada i Mejn već su usvojili propise kojima se AI-ju ograničava pružanje terapije ili donošenje terapijskih odluka.

OpenAI je takođe mijenjao način na koji ChatGPT reaguje na razgovore povezane sa samoubistvom i samopovređivanjem. Kompanija je u razvoj tih zaštita uključila više od 170 stručnjaka iz oblasti mentalnog zdravlja.

3. Ne ubacujte povjerljive poslovne podatke
Izvorni kod, interni ugovori, podaci klijenata i dokumenti označeni kao povjerljivi ne bi trebalo da završavaju u ličnom razgovoru sa AI četbotom.

Samsung je još 2023. godine ograničio upotrebu generativnih AI alata na službenim uređajima nakon što su zaposleni u ChatGPT unijeli interni izvorni kod. Kompanija je tada upozorila da se podaci poslati takvim servisima obrađuju na spoljnim serverima.

Kod potrošačkih ČetGPT naloga razgovori mogu biti korišteni za unapređivanje modela u zavisnosti od podešavanja korisnika. Međutim, čak i odsustvo te opcije ne znači da bi u ČetGPT trebalo unositi poslovne tajne ili druge povjerljive informacije.

4. Ne oslanjajte se na ChatGPT za dijagnoze i terapiju
AI može da objasni medicinski termin ili pomogne korisniku da pripremi pitanja za ljekara, ali ne bi trebalo da zamijeni stručnu medicinsku procjenu.

Koliko pogrešan savjet može biti opasan pokazuje slučaj 60-godišnjeg muškarca koji je tražio način da smanji unos hlorida. Počeo je da koristi toksični natrijum-bromid kao zamjenu za kuhinjsku so i nakon nekoliko mjeseci završio je u bolnici, gdje je proveo tri nedjelje.

Problem je i privatnost. Zdravstveni podaci koje korisnik sam unese u ChatGPT nemaju automatski istu pravnu zaštitu kao informacije koje dijeli sa ljekarom kroz zaštićeni zdravstveni sistem.

5. Nikada ne unosite lozinke i podatke sa dokumenata
Lozinke, jednokratni kodovi za prijavljivanje, brojevi pasoša i drugih ličnih dokumenata, kao ni kompletni podaci platnih kartica i bankovnih računa, ne bi trebalo da se nađu u upitu.

Koliko lako privatni razgovor može postati javno dostupan pokazao je slučaj iz 2025. godine. Tada je u Gugl rezultatima pronađeno gotovo 4.500 javno podijeljenih ChatGPT razgovora, nakon čega je OpenAI uklonio opciju koja je omogućavala njihovo indeksiranje.

Dodatni razlog za oprez je Memori funkcija, koja u zavisnosti od podešavanja može koristiti informacije iz prethodnih razgovora kako bi personalizovala buduće odgovore. Zbog toga posebno osjetljive podatke ne treba unositi ni kada djeluje da će biti potrebni samo jednom.

Pravilo je jednostavno - ako podatak ne biste poslali nepoznatoj osobi ili javno objavili na internetu, dobro razmislite prije nego što ga unesete u AI četbot. ChatGPT može biti koristan alat, ali nije zamjena za stručnjaka niti sef za najosjetljivije podatke, prenosi ATV.