Exempelvis ska den kinesiska kinesiska hackargruppen SweetSpecter ha använt Chat GPT vid en nätfiskekampanj mot myndigheter i Asien. Även den iranska gruppen CyberAv3ngers har använt Chat GPT för att hitta sårbarheter som går att utnyttja för att attackera kritisk infrastruktur i flera västländer.
Open AI stänger ner konton som de får reda på används i kriminellt syfte.