Gli analisti della società di sicurezza Check Point Research hanno rivelato che gli hacker hanno scoperto un modo semplice per aggirare le restrizioni di ChatGPT e lo stanno utilizzando per pubblicizzare servizi illegali su forum online criminali. Invece di utilizzare l’interfaccia web, la tecnica funziona tramite l’API di ChatGPT. I developer possono incorporare il bot AI nelle loro app utilizzando l’API messa a disposizione da ChatGPT. Pare che non ci siano limiti ai contenuti dannosi nella versione API.
I ricercatori hanno rivelato che gli hacker hanno trovato un modo per superare le limitazioni di ChatGPT e lo stanno utilizzando per promuovere servizi che consentono agli utenti di produrre malware e email di phishing. ChatGPT è un chatbot che imita l’output umano utilizzando l’intelligenza artificiale per rispondere alle domande e svolgere compiti.
Le persone possono utilizzarlo per scrivere documenti, codice informatico semplice e altre attività. Il servizio blocca attivamente le richieste di creare contenuti potenzialmente illeciti. Quando viene chiesto di creare un’email di phishing o scrivere codice per rubare dati da un dispositivo compromesso, il servizio declinerà e risponderà che tale contenuto è “illecito, poco etico e dannoso”.
Secondo gli analisti della società di sicurezza Check Point Research, i hacker hanno scoperto un modo semplice per aggirare queste proibizioni e lo stanno utilizzando per pubblicizzare servizi illegali su forum online per attività criminali. Invece di utilizzare l’interfaccia web, la tecnica funziona tramite l’API di ChatGPT. Gli sviluppatori possono includere il bot AI nelle loro app utilizzando l’API che ChatGPT mette a disposizione. Si scopre che non ci sono limiti sul contenuto pericoloso nella versione API.
