Az mesterséges intelligencia (AI) fejlődése egyre összetettebbé teszi a rendszerek viselkedésének vizsgálatát és értékelését. Az AI modellek egyre szélesebb körben alkalmazhatók, miközben a lehetséges kockázatok és nemkívánatos magatartások száma is nő. Ennek kezelése érdekében fejlesztették ki a Petri nevű nyílt forráskódú auditáló eszközt, amely jelentősen megkönnyíti és felgyorsítja a biztonsági kutatásokat az AI rendszerek területén. Mi az a Petri és hogyan működik? A Petri, vagyis a Parallel Exploration Tool for Risky Interactions, egy automatizált rendszer, amely képes párhuzamosan vizsgálni és értékelni a mesterséges intelligencia modellek viselkedését különféle szimulált helyzetekben. Az eszköz egy automata ágenst alkalmaz, amely többfordulós párbeszédeket folytat a célzott AI rendszerrel, miközben virtuális felhasználókat és eszközöket szimulál. Ezek…