Elemzés
Miért ilyen nagy a különbség a detektorok között?
Ugyanazon a teszten 62,9% és 99,6% közötti pontosságot mértünk. A számokból három jellegzetes hibaminta rajzolódik ki.
01
Túl óvatos döntés
A GPTZero AUROC-értéke 0,9923, vagyis a pontszámai jól elválasztják az emberi és a gépi szövegeket. Mégis csak 90,1%-os a pontossága, mert magyar szövegen túl óvatosan dönt, és a gépi szövegek ötödét átengedi. Hasonló a Plag.hu helyzete: 0,948-as AUROC mellett 76,5%-os pontosság.
02
Túl agresszív döntés
Az Originality.ai a gépi szövegek 96,6%-át elkapja, de ennek ára van: az emberi szövegek 32,6%-át is AI-nak jelöli. Ez a fordított hiba, és vizsgahelyzetben ez a veszélyesebb, mert ártatlan embereket érint.
03
Kevés magyar tanítóadat
A ZeroGPT, az isgen.ai és a Smodin AUROC-értéke 0,69 és 0,77 között van, vagyis a pontszámaik alig választják szét a két csoportot. Ezen a döntési küszöb állítása sem segít, és jellemzően arra utal, hogy a modell kevés magyar szövegen tanult. A kifejezetten magyar nyelvre készült Preds 3 AUROC-értéke 0,9996.