A ChatGPT fejlesztői szerint így buktatható le a rendszer

Az utóbbi hetekben futótűzként terjed minden hír, ami a Chat GPT-vel kapcsolatos, nem véletlenül: a világ jelenleg legnépszerűbb chatbotját január óta már több mint 100 millióan használják.

Most az OpenAI, a ChatGPT-t és a DALL-E nevű, szöveget képpé alakító eszközt megalkotó cég egy olyan funkción dolgozik, ami képes megállapítani, hogy egy szöveget az előbbi felhasználásával állítottak-e elő.

Hogyan lehet különbséget tenni az ember, illetve a mesterséges intelligencia által írt szöveg között?

A kérdés joggal merül fel, az OpenAI válasza pedig egy olyan rendszer, amivel könnyen lebuktathatóvá válik, ha valaki a számítógépre bízta a szövegezési munkát. A bökkenő csupán, hogy a rendszer még nem teljesen megbízható.

Az eddigi tesztek során az AI által írt szövegek 26%-át jelölték meg „valószínűleg AI által írtnak”, míg az ember által írt szövegeket 9%-ban tévesen minősítették AI által írtnak. Az eszköz hatékonyabbnak bizonyult az ezer szónál hosszabb szövegek esetében, de az eredmények még ekkor is elég bizonytalanok voltak.

Mi az a ChatGPT?

A ChatGPT-t 2022 novemberében prototípusként szabadították a világra. A Microsoft, amely több tízmillió dollárt pumpált a cégbe, állítólag a Bing keresőmotorjának fejlesztésére használhatja.

Az eszköz alkalmazása számtalan különböző iparágban és pozícióban lehet hasznos. A párbeszéd alapú mesterséges intelligencia (AI) többek között segít az ingatlanügynököknek online hirdetések létrehozásában, a diákoknak esszéket írni, a fejlesztőknek pedig kódokat gyártani.

Az OpenAI rendszere nem használható az iskolai csalás megelőzésére

A ChatGPT-vel kapcsolatos egyik legnagyobb aggodalmat az jelenti, hogy az iskolai vizsgákon is felhasználhatják a diákok csalásra. Ennek megelőzése érdekében egyes intézmények elkezdték blokkolni a ChatGPT-t az eszközeiken és a hálózataikon, míg az OpenAI házon belül próbálta meg orvosolni ezt a problémát a mesterséges intelligencia-azonosító eszközével.

„Felismertük, hogy számos iskolai körzet és felsőoktatási intézmény jelenleg nem veszi figyelembe a generatív AI-t a csalásokra vonatkozó szabályzataikban. Azt is megértjük, hogy sok diák használta ezeket az eszközöket a feladatokhoz anélkül, hogy felfedte volna a mesterséges intelligencia használatát” – ismerte el a vállalat.

Sajnos ezen intézmények számára az AI szövegosztályozó messze nem ad biztos eszközt a kezükbe a tisztességtelen tanulói magatartás kiküszöbölésére, és nem használható a plágiumok felderítésére sem – figyelmeztetett az OpenAI. Nemcsak, hogy az AI-szöveget tévesen emberi írásként minősítheti és fordítva, a diákok is megtanulhatják, hogyan kerüljék ki a rendszert azáltal, hogy módosítanak néhány szót vagy bekezdést a generált tartalomban.

Az OpenAI szövegosztályozójának néhány hibája

• Csak angol szöveggel működik. Más nyelvek és kódok esetén még kevésbé pontos.
• Az osztályozó nem képes felismerni az olyan kiszámítható szöveget, mint például a miniszterelnökök listája, amely nagyrészt ugyanaz lenne, akár ember, akár robot írta.
• Megtévesztheti az eszközt, hogy az AI által írt szöveg szerkeszthető.
• A mesterséges intelligencia képzése 2021-ben véget ért, így azokat a szövegeket, amelyek jelentősen különböznek azoktól, amiket a képzés során kapott, szintén nem tudja megfelelően értékelni.