GPT 检测器的偏见和限制，这些检测器通常用于区分人类生成和 AI 生成的内容。该研究发现，GPT 检测器对非母语英语者存在偏见，往往会错误地将他们的内容识别为 AI 生成，而能够准确地识别母语为英语的人的内容。该研究还发现，使用简单的策略可以减轻这种偏见并帮助逃避 GPT 检测器。研究人员在一家中国教育论坛上测试了 91 篇托福作文和 88 篇美国八年级学生写的作文的检测器。结果显示，GPT 检测器更有可能将托福作文误认为是 AI 生成，而不是美国八年级学生写的作文，这可能是由于前者的复杂程度较低。该研究建议对更多非母语英语者的内容进行训练以消除偏见。该研究还发现，修改作文的语言可以改变它们的复杂程度，从而影响 GPT 检测器的性能。
3 I/ o2 Q* G$ _* b/ s. s& h6 M6 B8 G) p7 A3 h% Y! s! @ O3 R: }
. V# f% i; c4 y1 V8 J. P; W2 X# Q
中国人写的英文论文被AI判断为AI生成的概率高达61%。
& I4 Q0 N7 ?5 T, v; B+ V* C/ e. p: D5 k: y; b. W* V3 z
目前，生成式语言模型发展迅速，确实给数字通信带来了巨大进步。
8 f, \9 h4 p4 r: \" x: X" h3 P! F! a+ |
但滥用真的不少。
: W* r3 F2 r: f- O: N) M; C+ s4 ~4 J8 `- F1 ^3 p
虽说研究人员已经提出了不少检测方法来区分AI和人类生成的内容，但这些检测方法的公平性和稳定性仍然亟待提高。" s' o, B9 d5 D' F, C1 B& i9 p
9 q4 T' q; e+ I3 ^. C. E( W为此，研究人员使用母语为英语和母语不为英语的作者写的东西评估了几个广泛使用的GPT检测器的性能。
5 ~/ `! J5 \6 g' w2 |
, O3 \# D9 F: t6 Q8 v/ J( h研究结果显示，这些检测器始终将非母语者写作的样本错误地判定为AI生成的，而母语写作样本则基本能被准确地识别。
8 P$ i( I8 I% D, g$ t C* t% S7 X s; a* W
此外，研究人员还证明了，用一些简单的策略就可以减轻这种偏见，还能有效地绕过GPT检测器。
6 m) O' M% A1 r/ C- g Q1 w, `8 W( c: R, x8 h! G8 z: `0 V
这说明什么？这说明GPT检测器就看不上语言表达水平不咋地的作者，多叫人生气。
( @* J& B1 H, D4 |9 @0 |4 V+ d5 M
+ T/ }& f" E) S不禁联想到那款判断AI还是真人的游戏，如果对面是真人但你猜是AI，系统就会说，「对方可能会觉得你冒犯了。」
6 n( V" {( o$ r: }" v7 d* h; q; T, e5 l7 f1 {1 ~( U
不够复杂=AI生成？
# h& |& s% c4 i0 }9 z, F9 E( v
研究人员从一个中国的教育论坛上获取了91篇托福作文，又从美国Hewlett基金会的数据集中摘取了88篇美国八年级学生写的作文，用来检测7个被大量使用的GPT检测器。! |5 |, ]0 ^' s" e
! T# `8 K- X5 v' V a图表中的百分比表示「误判」的比例。即，是由人写的，但检测软件认为是AI生成的。0 c$ P6 u! b) ?9 _
& H4 P, t9 j& d( ~) ~8 S可以看到数据非常悬殊。
! w7 i! b( T+ F, E
; X! C1 Z5 l$ h七个检测器中，美国八年级学生写的作文被误判的概率最高才12%，还有两个零误判的GPT。3 q8 U4 l: r( [2 S7 @/ s. H* x
' z% `4 i( [+ \/ i5 H中国论坛上的托福作文被误判的概率基本全部过半，最高误判概率可达76%。
, v5 D8 U8 v, V& e1 r2 E+ c+ {1 p+ l3 `, }9 W2 m) @8 ~1 |- D
91篇托福作文中的18篇被所有7个GPT检测器一致认为是AI生成的，而91篇中有89篇，都至少被一个GPT检测器误判。
5 X* Z# q! E/ y
: `! m, Z8 q5 n4 U' D从上图中我们可以看出，被所有7个GPT误判的托福作文在复杂度（Complexity）上明显低于其它论文。
# ?7 @- O( q9 X* N! N. {2 @* x: P& B* H" Q9 s5 Z* u0 G1 ~1 h
这就印证了开头的那个结论——GPT检测器会对那些语言表达能力有限的作者有一定偏见。4 R( w' U$ `% v! Q3 Q
* V2 e5 y: `2 m$ {) h0 a
因此，研究人员认为，GPT检测器应该多看点儿非母语者写的文章，样本多了，才能消除偏见。9 Y1 ]$ o9 X; k! E2 `5 l2 e
$ U& K+ D* [' e8 ~
接下来，研究人员把非母语者写的托福作文扔到了ChatGPT里，丰富一下语言，模仿母语者的用词习惯。( {) z9 B. l0 o
; ]' ~/ ~; W: w* E. q
同时作为对照组，把美国八年级小孩儿写的作文也扔到了ChatGPT里，把语言简化了一下，模仿非母语者的写作特点。下图就是修正后的新判定结果。' q# t; |4 G1 k
: z: r3 C8 K- V6 q我们可以发现，情况来了个大掉个儿，丰富了语言的托福作文错判率直线下降，低至3%，最高也不过19%。不像之前基本全部过半的错判率。2 t5 Q) N2 x$ W" W
- C" r; ^" z4 Q; u* c与之相反，八年级小孩儿写的作文的错判率直线上升，甚至还有一个GPT检测器的错判率高达99%，基本全错。5 z N) G( ~5 B
- ^ n. O( _' } V5 l4 e+ N因为，文章复杂度这个变量出现了变化。 ?) K; b3 V, H) H
* L8 _; z) @' Y D; e/ r这里研究人员就得出了一个结论，非母语者写的东西不地道，复杂度低，容易被错判。
9 P1 y; |: Z! T! a0 e
, d2 T- @, A$ ^$ O这也就导向了一个技术问题，同时也是一个价值问题。以复杂度来判定AI还是人类是作者，是否合理、全面、严谨。* W7 v# w& J8 l" g$ ^) G
4 Y5 }) e- w) o. W4 v$ C结果显然不是。2 N& _+ F/ b3 G7 a* ?4 m0 l
* ?* l' R9 ?, y- ^/ A: ^4 p8 ] L
以复杂度为判断标准的情况下，非母语者吃了大亏，因为，他们是非母语者（废话）。
. ~& p8 {& |( I8 f# z6 C! k8 M% F2 m1 L$ O
AI润色=人类写的？？
, B. B, f; P2 m/ ~6 ~, ^& a( U3 O J* c- R g
研究者认为，加强语言多样性不仅可以减轻对非母语者的偏见，还能让GPT生成的内容绕过GPT检测器。% G; J, T+ l6 K+ h' b! J! a4 H; e
$ P. n) l' W9 J4 Y
为了证明这个观点，研究人员选取了2022-2023年间美国大学申请的入学论文题目，输入到ChatGPT-3.5里，一共生成了31篇假论文。. O- i) m5 g6 Y' B
; o8 ]5 ^$ l. X* _/ S0 c
GPT检测器一开始还挺有效，但是第二轮就不行了。这是因为，在第二轮中，研究人员把这些论文又扔到ChatGPT里润色了一下，用一些文学性的语言提升了文本质量。
/ g& e b4 v8 ~# |$ _+ L/ G& w: C/ e) J; j- g% N7 _0 d$ z! B: z7 ]
这样一来，GPT检测器的准确度就从100%直降到了0%。3 S. r' L0 \) H/ T7 Q [% J
经过润色的文章复杂度相应也上升了。
! B+ X$ D. w5 X4 U/ Y$ ^# q& f/ n5 [% n
与此同时，研究人员又用了斯坦福大学145个期末项目报告的题目，让ChatGPT生成摘要。
# \3 j0 { W% U% d4 x
/ x/ Y6 U: M0 h1 P" o& c/ V摘要经过润色以后，检测器判断的准确性继续下降。# ?$ q$ `: O) E: G
4 C0 C& C) g) e: x' }# ?; x
研究者再次得出结论，润色过的文章很容易被误判，都是AI生成的，两轮就是比一轮强。7 B2 O1 e" r4 ~+ D: ~- t
! i1 X8 L7 {6 l5 A
GPT检测器？还是欠练
+ p, ~& V- M5 i& b O7 K3 I$ V
: x! l$ _. y+ |& K* ^9 e言而总之，总而言之，各种GPT检测器好像还是没能抓住AI生成和人类写作之间最本质的区别。
: Q5 I0 j3 Q) x+ L7 Q X
7 I+ H2 H q, c( B& P8 g4 w/ P人的写作也分三六九等，仅靠复杂度判断，不甚合理。
( M: |) R9 I; L- v/ [! q' N+ h7 F! P3 h/ X8 K5 K4 G% p( M
抛开偏见因素不谈，技术本身也亟待改进。
* X1 |9 L; U6 r; M) R7 E9 N0 J9 C
: ^- O7 @3 Z2 ^" N+ [# J; O0 \ |
