存在着明顯偏見，AI技術沒有考慮到社會經濟的影響

相關技術人員使用一個因果模型分析表示，能夠識別AI生成藝術品的相關方面，以及這些不同方面是如何相互影響的。其中偏見比其他問題更有害。GoArt是一個類似DeepArt的平台，它將克萊曼婷·亨特的《黑矩陣女主角》的面部顏色從黑色改為紅色，將其轉化為表現主義風格。另一個AI生成的藝術工具，“Abacus”將拉斐爾和皮耶羅·迪·科西莫作品中留長髮的年輕男性錯當成了女性。

相關技術人員將這些問題歸咎於用於訓練生成人工智能模型的數據集失衡，指出，這可能受到數據集管理員偏好的影響。

例如，研究中提到的一款應用“人工智能肖像”人工智能使用了4.5萬幅文藝復興時期的肖像畫，其中大部分是白人。根據研究人員的説法，另一個潛在的偏差來源可能是標記過程中的不一致。不同的註釋者有不同的偏好、文化和信念，這些可能反映在它們創建的標籤中。

在藝術流派、藝術家、藝術運動等方面可能存在不平衡。另外，描述不同種族、外貌等信息也沒有納入數據集，因此造成了代表性偏見。錯誤地建模或忽視某些微妙的信息，生成藝術可能會助長對過去社會、文化和政治方面的錯誤認知，並阻礙瞭解重要歷史事件。