Newshot

Ask HN:AI 的 RH 证明是否可能用到了其训练数据中的人类成果?

Translation(model translation, not the source's own text)
Ask HN:AI 的 RH 证明会不会用到了其训练数据中的人类工作成果?
2 points by nomilk 13 minutes ago │ hide │ past │ favorite │ discuss
在读到对 AI 的 RH 证明的第三方验证 [0] 时,其中写道:> 尽管仍有可能,但证明利用 bug 的可能性现在微乎其微。这让我觉得我们正在实时意识到,我们正生活在人类历史上最重要的时期。比发明计算机、互联网或车轮的时期更重要。问题:很多人研究过 RH,其中一些人会把自己的证明尝试存放在 GitHub 或 google docs 之类的地方——这些地方可能最终进入了训练数据集。因此,有没有可能 Claude 知道该证明的一些重要部分(甚至可能是全部,但分散在多个私有来源中),而它只是把这些部分组装成一个单一的证明,而不是自己想到了这个证明?[1](这个区别很重要,因为组装现有证明的各个部分似乎不同于自己撰写一个证明。)[0] https://news.ycombinator.com/item?id=50590943 [1] 我记得 AI 在一个早期的 Ergos 问题上做过类似的事(尽管它用的是公开作品),它找到了联系,技术上解决了一些未解决的问题,但 Terence Tao 几天后出来说,它把点连了起来,但并没有真正想到任何真正新颖的东西。
尽管仍有可能,但证明利用 bug 的可能性现在微乎其微。

这让我觉得我们正在实时意识到,我们正生活在人类历史上最重要的时期。比发明计算机、互联网或车轮的时期更重要。

问题:很多人研究过 RH,其中一些人会把自己的证明尝试存放在 GitHub 或 google docs 之类的地方——这些地方可能最终进入了训练数据集。

因此,有没有可能 Claude 知道该证明的一些重要部分(甚至可能是全部,但分散在多个私有来源中),而它只是把这些部分组装成一个单一的证明,而不是自己想到了这个证明?[1]

(这个区别很重要,因为组装现有证明的各个部分似乎不同于自己撰写一个证明。)

[0] https://news.ycombinator.com/item?id=50590943

[1] 我记得 AI 在一个早期的 Ergos 问题上做过类似的事(尽管它用的是公开作品),它找到了联系,技术上解决了一些未解决的问题,但 Terence Tao 几天后出来说,它把点连了起来,但并没有真正想到任何真正新颖的东西。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗