O ChatGPT pode, às vezes, criar respostas contraditórias ou paradoxais na mesma conversa, como concordar com dois pontos de vista opostos, se os comandos o levarem nessa direção. Ele também pode, acidentalmente, captar preconceitos, conteúdos controversos ou dados confidenciais presentes em materiais usados para seu treinamento, mesmo com as proteções destinadas a limitar isso. Isso acontece pois a ferramenta foi treinada com um vasto conjunto de dados públicos.