儘管人工智慧（AI）在提升各產業效率、程式撰寫、早期疾病檢測及加速科學發展等方面展現巨大潛力，然而，伴隨其快速成長而來的「人工愚蠢」（artificial stupidity, AS）問題，正逐漸浮上檯面，引發各界對其可靠性與倫理議題的擔憂。
自由撰稿人 Chuck Roberts 指出，雖然人工智慧被視為科技進步的里程碑，但其缺陷也日益明顯。例如，人工智慧生成的歷史論文可能出現錯誤人名或虛假事實，導致資訊誤導。在法律領域，已有數名律師因提交引用不存在案例的 AI 生成文件而遭到懲處，顯示 AI 在事實判斷上仍有不足。路透社（Reuters）也曾評論，人工智慧目前尚未能從龐大的事實資料庫中精準篩選出正確資訊。
著作權侵權是另一個嚴峻問題。AI 公司 Anthropic 曾被揭露從暗網圖書館下載數百萬本受著作權保護的書籍來訓練其 AI 模型，卻未經版權所有者許可。據威科集團（Kluwer）報導，Anthropic 為此在 2025 年支付高達 15 億美元的和解金，分配給約 50 萬名受版權侵犯的作家，此案成為史上最大規模的版權相關和解案。
此外，AI 偵測器的發展也造成了新的困境。許多作家和學生擔心其原創作品會被 AI 偵測器誤判為 AI 生成，導致不必要的負面標籤甚至學業問題。華爾街日報（Wall Street Journal）指出，這項擔憂甚至促使部分作家開始刻意在作品中加入錯字或不佳的語法，以避免被偵測器「錯誤地」辨識。原因在於，若作品的語法和句子結構過於標準或「乾淨」，反而更容易被偵測器判定為 AI 生成。Chuck Roberts 呼籲，人工智慧偵測器應持續改進，提高判定的準確性，減少誤判，並明確告知使用者評估結果並非百分之百確定。
除了文本生成，人工智慧在圖像和影片生成方面的進步也帶來挑戰。許多網路上看似真實的影片，實則由 AI 生成，使得辨別真偽變得困難，除非製作者明確加上免責聲明。鑑於這些問題，專家建議，目前由人工智慧生成的資訊，仍應透過審查書籍、法律文件或權威文章等其他方式進行交叉驗證，以確保資訊的正確性。
