ChatGPT的確可以將人類從重復性的寫作中解放出來。然而，過于逼真的寫作能力不僅僅讓教授們頭大，也在助長網絡犯罪分子的“壯大”。
網絡安全公司Checkpoint Security的ChatGPT首席研究員Sergey Shykevich表示，已經看到網絡犯罪分子對ChatGPT的利用，他們正在通過人工智能的力量來創建可用于勒索軟件攻擊的代碼。
Shykevich的團隊自2021年12月開始研究與網絡犯罪的關系。去年年底，他們找到了ChatGPT與網絡犯罪相關的第一份證據。
據稱，網絡犯罪分子正在使用聊天機器人創建可以用于惡意軟件攻擊的Python腳本。Shykevich指出，代碼雖然有一些錯誤，但大部分是正確的。而更有趣的是，發布這些代碼的人以前從未開發過任何軟件。
Shykevich指出，ChatGPT和OpenAI的另一個編碼服務Codex正在讓經驗不足的人也能完成代碼寫作，而這顯然是一把雙刃劍。
公司Darktrace的網絡情報與分析總監Justin Fier也聲稱，目前網絡釣魚攻擊的進入門檻已經很低。人們只要提示到位，ChatGPT就能輕松創建出數十份具有針對性的詐騙電子郵件。
2月初，公司Blackberry的一份針對信息技術專家的調查顯示，1500名專家中74%的人擔心ChatGPT會助長網絡犯罪，而71%的人認為ChatGPT已經被有心人“拉下?！绷?。
美國前聯邦檢察官Edward McAndrew指出泛亞電競，如果ChatGPT或類似的聊天建議某人實施網絡犯罪，那么創造出ChatGPT的公司可能要承擔責任。
這與往常的場景不同。大多數科技公司不必對自己平臺上的用戶言論負責，但由于ChatGPT的文字內容來自本身，而人工智能開發者對人工智能學習和輸出的內容負責。
McAndrew表示，如果出現問題，OpenAI很難免于民事或刑事訴訟。
然而，McAndrew也承認如果ChatGPT開源的話，追溯OpenAI的責任將變得很困難。此外，目前也沒有一個機構或政府單位專門負責為人工智能行業制定授權。而人工智能領域往往需要國際間的合作，這可能將花費數十年的時間。
Shykevich也強調，現在的ChatGPT對犯罪分子來說也是危險的存在，因為它不僅愛“亂講”，而且亂講話的時候特別自信。這讓犯罪分子需要小心翼翼地檢查ChatGPT的每一句話，不然就很可能被ChatGPT帶進溝里。
