## GPT是个胡说八道

### 大语言模型是什么

而大语言模型根本不是被设计用来准确地描绘世界，而是旨在*给人留下*它们正在这样做的印象。我们认为，这与法兰克福所谈论的胡说八道的至少一种方式非常接近。我们区分了两种胡说八道，我们称之为“硬核”和“软核”胡说八道，前者需要主动试图欺骗读者或听者关于事情的本质，而后者只需要对真相缺乏关心。

我们认为，至少，像 ChatGPT 这样的大语言模型的输出是软核胡说八道：即在不关心其真实性的情况下生成的言语或文本，并且没有任何意图误导听众关于说话者对真相的态度的行为。我们还更具争议性地提出，ChatGPT 实际上可能产生硬核胡说八道。

这里的问题不在于大语言模型产生幻觉、撒谎或以某种方式错误地描绘世界。问题在于它们根本不是被设计用来描绘世界的；相反，它们被设计用来传达有说服力的文本。所以当它们被提供某种数据库时，它们会以某种方式利用这个数据库来使它们的回答更有说服力。但它们并没有以任何真实的方式试图传达或传输数据库中的信息。

语言模型的设计（其训练任务是根据上下文预测单词）中没有任何东西是真正设计用来处理算术、时间推理等的。它们有时能正确回答这类问题，仅仅是因为它们恰好从其训练数据中合成了相关字符串。不涉及任何推理 [……] 同样，语言模型容易胡编乱造 [……] 因为它们并非旨在用自然语言表达某些潜在的信息集合；它们只是在操纵语言的形式”。

- **撒谎者**：**关心真相**。他知道真相是什么，但**故意扭曲真相**来误导你，让你相信不真实的事情。他的“议程”是**欺骗**。
- **胡说者**：**根本不在乎真相**。他不在乎自己说的话是真还是假。他的目的是为了达到某个**与真相无关的效果**。

撒谎 = df. 向他人做出一个自己相信是虚假的陈述，并意图让对方相信该陈述为真.法兰克福认为，胡说八道的特征不是意图欺骗，而是对真相的肆意漠视

### 胡说八道（一般定义）

说话者对其言论的真实性漠不关心时产生的任何言论。

### 硬核胡说八道

意图误导听众关于说话者议程而产生的胡说八道。

### 软核胡说八道

在没有意图误导听者关于说话者议程的情况下产生的胡说八道。

即使 ChatGPT 本身不是一个硬核胡说八道者，它仍然是一台胡说八道机器。胡说八道者是使用它的人，因为他们

1. 不关心它所说内容的真实性，

2. 希望读者相信该应用程序输出的内容。