OpenAI je nedavno priznao da detektori sadržaja kreirani pomoću umjetne inteligencije nisu učinkoviti, što postavlja pitanje o njihovoj upotrebi u obrazovnom sektoru.
Nedostatak pouzdanosti:
Iako su AI detektori u upotrebi, često daju lažno pozitivne rezultate jer se oslanjaju na neprovjerene metrike detekcije. OpenAI je istaknuo da nijedan detektor nije dokazao da može pouzdano razlikovati sadržaj generiran umjetnom inteligencijom od sadržaja koji je stvorio čovjek.
Problem s AI Classifierom:
OpenAI je odlučio povući svoj AI Classifier, eksperimentalni alat dizajniran za detekciju teksta generiranog AI-jem, zbog njegove niske točnosti od samo 26%.
ChatGPT i njegove slabosti:
ChatGPT, iako popularan, također ima svoje slabosti. Ne može točno prepoznati koji je sadržaj generiran AI-jem i ponekad može dati netočne odgovore ili čak izmišljati informacije.
Upozorenje o konfabulaciji:
OpenAI je također istaknuo da ChatGPT može zvučati uvjerljivo, ali može pružiti netočne ili pogrešne informacije. Preporučuju da se ne oslanja isključivo na njega kao izvor informacija.
Zaključak i preporuke:
Trenutno je najsigurnije izbjegavati korištenje automatiziranih alata za detekciju AI generiranog sadržaja. Analitičari i stručnjaci, poput Ethana Mollicka, vjeruju da će detekcija AI pisanja ostati izazovna i da AI detektori imaju visoke stope lažno pozitivnih rezultata.
