在西班牙南部一個社區被人工智能生成的高中女孩裸照影響了近一年後，今年夏天，一家少年法院對他們的15位同學判處一年的緩刑。
但用於製作有害深度裸照的人工智能工具仍然可以輕易在互聯網上獲得，承諾在幾秒鐘內“脫去”上傳到網站的任何照片。
現在，加利福尼亞州正采取新措施關閉該應用程序和其他類似應用程序，舊金山本週提起了一宗獨一無二的訴訟，專家認為這可能樹立先例，但也會面臨很多障礙。
舊金山市檢察長David Chiu表示：“這些圖像的擴散剝削了全球許多婦女和女孩，”他在接受美聯社採訪時說道。“這些圖像被用來欺凌、羞辱和威脅婦女和女孩，對受害者的影響是毀滅性的，損害了她們的聲譽、心理健康、失去自主，甚至造成一些人自殺。”
加州民眾代表提起的訴訟聲稱，這些服務違反了許多州法律，包括欺詐商業行為、非自願色情和對兒童的性侵犯。但很難確定誰在運營這些應用程序，這些應用程序不在電話應用商店中，但在互聯網上仍然容易找到。
去年底美聯社聯絡到其中一家服務，該服務在電子郵件中聲稱其“首席執行官在美國境內遊走”，但拒絕提供任何證據或回答其他問題。美聯社未公布具體被起訴的應用程序，以免宣傳它們。
訴訟代表加利福尼亞州人民指控這些服務違反了許多州法律，但很難確定誰在運營這些應用程序，這些應用程序不在手機應用商店中，但在互聯網上仍然容易找到。
斯坦福大學一名研究人員表示，因為這麼多被告位於美國以外，要將他們追究到法律責任將更加困難。
舊金山的Riana Pfefferkorn表示：“Chiu在這個案件中面臨著一個艱鉅的挑戰，但如果被告忽視了訴訟，他可能可以讓一些網站被取下。”她表示，如果城市在他們缺席時通過默許獲勝並獲得影響域名註冊商、網站主機和支付處理器的命令，“即使所有者從不參與訴訟，也會有效地關閉這些網站。”
