Az utóbbi hetekben futótűzként terjed minden hír, ami a Chat GPT-vel kapcsolatos, nem véletlenül: a világ jelenleg legnépszerűbb chatbotját január óta már több mint 100 millióan használják.
Most az OpenAI, a ChatGPT-t és a DALL-E nevű, szöveget képpé alakító eszközt megalkotó cég egy olyan funkción dolgozik, ami képes megállapítani, hogy egy szöveget az előbbi felhasználásával állítottak-e elő.
Hogyan lehet különbséget tenni az ember, illetve a mesterséges intelligencia által írt szöveg között?
A kérdés joggal merül fel, az OpenAI válasza pedig egy olyan rendszer, amivel könnyen lebuktathatóvá válik, ha valaki a számítógépre bízta a szövegezési munkát. A bökkenő csupán, hogy a rendszer még nem teljesen megbízható.
Az eddigi tesztek során az AI által írt szövegek 26%-át jelölték meg “valószínűleg AI által írtnak”, míg az ember által írt szövegeket 9%-ban tévesen minősítették AI által írtnak. Az eszköz hatékonyabbnak bizonyult az ezer szónál hosszabb szövegek esetében, de az eredmények még ekkor is elég bizonytalanok voltak.
Mi az a ChatGPT?
A ChatGPT-t 2022 novemberében prototípusként szabadították a világra. A Microsoft, amely több tízmillió dollárt pumpált a cégbe, állítólag a Bing keresőmotorjának fejlesztésére használhatja.
Az eszköz alkalmazása számtalan különböző iparágban és pozícióban lehet hasznos. A párbeszéd alapú mesterséges intelligencia (AI) többek között segít az ingatlanügynököknek online hirdetések létrehozásában, a diákoknak esszéket írni, a fejlesztőknek pedig kódokat gyártani.
Az OpenAI rendszere nem használható az iskolai csalás megelőzésére
A ChatGPT-vel kapcsolatos egyik legnagyobb aggodalmat az jelenti, hogy az iskolai vizsgákon is felhasználhatják a diákok csalásra. Ennek megelőzése érdekében egyes intézmények elkezdték blokkolni a ChatGPT-t az eszközeiken és a hálózataikon, míg az OpenAI házon belül próbálta meg orvosolni ezt a problémát a mesterséges intelligencia-azonosító eszközével.
“Felismertük, hogy számos iskolai körzet és felsőoktatási intézmény jelenleg nem veszi figyelembe a generatív AI-t a csalásokra vonatkozó szabályzataikban. Azt is megértjük, hogy sok diák használta ezeket az eszközöket a feladatokhoz anélkül, hogy felfedte volna a mesterséges intelligencia használatát” – ismerte el a vállalat.
Sajnos ezen intézmények számára az AI szövegosztályozó messze nem ad biztos eszközt a kezükbe a tisztességtelen tanulói magatartás kiküszöbölésére, és nem használható a plágiumok felderítésére sem – figyelmeztetett az OpenAI. Nemcsak, hogy az AI-szöveget tévesen emberi írásként minősítheti és fordítva, a diákok is megtanulhatják, hogyan kerüljék ki a rendszert azáltal, hogy módosítanak néhány szót vagy bekezdést a generált tartalomban.
Az OpenAI szövegosztályozójának néhány hibája
- Csak angol szöveggel működik. Más nyelvek és kódok esetén még kevésbé pontos.
- Az osztályozó nem képes felismerni az olyan kiszámítható szöveget, mint például a miniszterelnökök listája, amely nagyrészt ugyanaz lenne, akár ember, akár robot írta.
- Megtévesztheti az eszközt, hogy az AI által írt szöveg szerkeszthető.
- A mesterséges intelligencia képzése 2021-ben véget ért, így azokat a szövegeket, amelyek jelentősen különböznek azoktól, amiket a képzés során kapott, szintén nem tudja megfelelően értékelni.
