Translation(model translation, not the source's own text)
| Ask HN:AI 的 RH 证明会不会用到了其训练数据中的人类工作成果? | ||
|---|---|---|
| 2 points by nomilk 13 minutes ago │ hide │ past │ favorite │ discuss | ||
| 在读到对 AI 的 RH 证明的第三方验证 [0] 时,其中写道:> 尽管仍有可能,但证明利用 bug 的可能性现在微乎其微。这让我觉得我们正在实时意识到,我们正生活在人类历史上最重要的时期。比发明计算机、互联网或车轮的时期更重要。问题:很多人研究过 RH,其中一些人会把自己的证明尝试存放在 GitHub 或 google docs 之类的地方——这些地方可能最终进入了训练数据集。因此,有没有可能 Claude 知道该证明的一些重要部分(甚至可能是全部,但分散在多个私有来源中),而它只是把这些部分组装成一个单一的证明,而不是自己想到了这个证明?[1](这个区别很重要,因为组装现有证明的各个部分似乎不同于自己撰写一个证明。)[0] https://news.ycombinator.com/item?id=50590943 [1] 我记得 AI 在一个早期的 Ergos 问题上做过类似的事(尽管它用的是公开作品),它找到了联系,技术上解决了一些未解决的问题,但 Terence Tao 几天后出来说,它把点连了起来,但并没有真正想到任何真正新颖的东西。 |
尽管仍有可能,但证明利用 bug 的可能性现在微乎其微。
这让我觉得我们正在实时意识到,我们正生活在人类历史上最重要的时期。比发明计算机、互联网或车轮的时期更重要。
问题:很多人研究过 RH,其中一些人会把自己的证明尝试存放在 GitHub 或 google docs 之类的地方——这些地方可能最终进入了训练数据集。
因此,有没有可能 Claude 知道该证明的一些重要部分(甚至可能是全部,但分散在多个私有来源中),而它只是把这些部分组装成一个单一的证明,而不是自己想到了这个证明?[1]
(这个区别很重要,因为组装现有证明的各个部分似乎不同于自己撰写一个证明。)
[0] https://news.ycombinator.com/item?id=50590943
[1] 我记得 AI 在一个早期的 Ergos 问题上做过类似的事(尽管它用的是公开作品),它找到了联系,技术上解决了一些未解决的问题,但 Terence Tao 几天后出来说,它把点连了起来,但并没有真正想到任何真正新颖的东西。