王伟.Token译名大家谈[J]. 中国科技术语, 2026, 28(3): 3-4.
专栏主持人:王伟(中国社会科学院语言学重点实验室)
主持人的话:2026年3月25日,全国科学技术名词审定委员会发布公告,优先推荐“词元”作为人工智能领域名词 token的中文名,面向全社会发布试用。此举引发全社会关注和热烈讨论,一时众说纷纭。
在全国科学技术名词审定委员会公布“词元”译名前后,工程界和学界给出了不同的术语译名方案,简单总结如下(见表1):
这个术语还用于其他领域,并且往往各有译名,这就使得问题更为复杂化(见表2):
一个科技领域的专业术语,引起如此大的关注和争议,未免有些异乎寻常。分析起来,至少有以下这些原因:
1.技术意义重大
“词元”是人工智能大模型处理信息的最小单元,是模型理解、生成和计算的基础。其定名标志着人工智能(AI)技术从理论探索走向规模化应用,成为衡量人工智能模型活跃度、算力消耗和智能服务能力的核心指标,对人工智能产业发展具有里程碑意义。
2.经济价值凸显
词元调用量成为人工智能时代新的“计量单位”,类似工业时代的“度电产值”或信息时代的“流量”。国家数据局数据显示,中国目前日均词元调用量已超过140万亿,两年内增长超1000倍,这表明人工智能已深度融入千行百业,成为驱动经济增长的新引擎,词元经济成为商业竞争的新赛道。
3.商业逻辑重构
词元作为“结算单位”,为人工智能服务的定价、交易和结算提供了统一标准,推动人工智能商业模式从传统软件许可向按使用量付费转变,重塑了企业成本结构和市场竞争力,引发产业界对商业模式的广泛讨论。
4.语言与文化适配
“词元”译名兼顾技术本质与中文语言习惯,既体现token作为语言处理最小单元的语义,又避免与区块链“通证”等概念混淆,有助于公众理解人工智能技术,促进中文语境下人工智能知识的传播和普及。
5.国家战略意义
词元调用量成为衡量国家智能化水平和创新能力的“晴雨表”,中国在词元调用量上超越美国,展现出在人工智能领域的竞争力。定名“词元”是中国在人工智能标准制定上迈出的重要一步,体现了国家在人工智能领域的战略主动性和话语权。
综上,“词元”定名不仅是技术术语的统一,更是人工智能时代技术、经济、文化和社会变革的缩影,因此引发了全社会的广泛关注和热烈讨论。
为了便于读者深入了解token作为术语的译名在学理和实践中的种种问题,我们特别邀请了以下领域的前沿学者,集思广益,各抒己见(排名不分先后):冯志伟(术语学),张军平(人工智能),范文杰(辞书学与词汇学),李宇明(语言战略与语言规划),陈国华、完权(理论语言学),袁家宏(计算语言学),柯平、贺凯达(翻译学),凌震华(语言工程)。
希望大家的讨论,能够帮助学界更好地理解这个横跨人工智能大模型、语言工程、语言学、经济学等多个专业领域的核心术语,更好地迎接一个崭新时代的到来。
冯志伟.Token应当定名为“词元”[J]. 中国科技术语, 2026, 28(3): 4-5.
在工业化时代,水按“吨”来计量,电按“度”来计量,在互联网时代,网络的流量按“GB”来计量。现在我们进入了人工智能时代,几乎每个人都要与人工智能打交道,那么,人工智能的智力应当如何计量呢?
事实上,我们已经用token来计量人工智能的智力。目前主流大模型公司的数据输入价格都是按token来计算的,100万 token的数据输入价格(人民币)如下:DeepSeek V2是1元,豆包是0.8元,GPT5.4是18元,Gemini 3.1 Pro是15元。
根据这样的价格,如果我们让人工智能系统分析一篇1万字的中文文章,大约要消耗8 000个token,折算成人民币,DeepSeek要花0.8分,豆包要花0.6分,ChatGPT要花0.13元。由此可见,我们已经在使用token作为计量单位来计量人工智能的智力了。token比自来水还便宜,中国的token尤其便宜。人工智能的新时代真的到来了!
token有多个中文译名:令牌、代币、词元。
人工智能中的token来源于自然语言处理,在自然语言处理中,我们把token翻译为“词元”,表示“语言的单元”,言简意赅,语义准确,通俗易懂。我建议把人工智能中的token也翻译成“词元”。
词元表示模型需要维护一个词元表(token list),在这个词元表中,既有完整的单词,也有形如re、er、est、es、ed、ing等单词中包含的前缀、后缀、词尾等成分,以及标点符号。
对于词元表中的每一个词元,词元表示模型可计算出一个定长的向量表示,供下游模型使用。对于输入的词序列,词元表示模型将每个词拆分为词元表内的词元。例如,将单词rewrite拆分为词元表内的re和write两个词元,将单词lowest模型拆分为词元表内的low和est两个词元。
使用词元的好处是可以减小词表(word list)的容量,英语单词有数十万之多,动词有时态、人称的变化,形容词有比较级、最高级的变化,名词有单数、复数的变化,如果按照单词在文本中的出现形式存储,既存原形词,也存该单词的变形词,那么,词表的容量将会非常大,可能达到数百万之多,如果把单词分解为词元,按照词元来存储,词表的容量就小得多了。
使用词元的另一个好处是可以处理未登录词。
传统的自然语言处理通常以单词(word)为基本处理单元,模型都依赖预先确定的词表,在编码输入词序列时,自然语言处理系统只能处理词表中存在的词。因此,在使用中,如果遇到不在词表中的未登录词,系统无法为其生成对应的表示,只能给予这些未登录词一个默认的通用表示,用[UNK](unknown)来表示未知词(unknown word),并在训练的过程中将 [UNK] 的向量作为词表示矩阵的一部分一起训练,通过引入某些相应机制来更新[UNK] 向量的参数。在使用时,对于全部的未登录词,都使用[UNK]的向量作为这些词的表示向量。
如果遇到词元表中没有的未登录词[UNK],机器可以自动地把这个未登录词分解成若干个更短的词元,使之与词元表中的已知的词元相对应,从而使机器对这个未登录词的结构成分有所了解。尽管不能完全了解这个未登录词的语义,但是可以了解这个未登录词的结构成分。
词元是人工智能时代智能设备中信息存储、处理和交换的、具有一定意义的基本符号单元,是大语言模型中模型处理和交换信息的最小的离散单元,因此,词元可以作为智力的计量单位。
目前大语言模型逐渐从文本处理走向多模态处理,除了处理文本之外,也处理图像、语音、视频,它们都可以被量化编码成离散单元,在多模态模型中,这些离散单元的建模手段仍然是序列模型,因此,这些离散单元也是token,是非文本状态的离散单元,可以看成是广义的词。我认为这样的token也可以翻译为词元。词元在多模态场景中承载了离散基本单元的语义,这种语义普遍存在于所有的模态之中,既存在于文本之中,也存在于图像、语音、视频之中。词元是由文本处理衍生的人工智能通用术语,其词义的外延扩大了。这样的用法,与“词云”(word cloud)词义的外延扩大是类似的。词义外延的扩大是词义发展中的普遍规律。
在大语言模型时代,词元不仅仅是多模态信息处理的基本单位,而且还具备了可计量、可定价、可交易的特征,成为了连接技术供应与商业需求的结算单位,为商业模式的落地提供了量化的可能性。据报道,2024年初,我国日均词元调用量为1000亿,至2025年底,跃升到100万亿,2026年3月,已经突破140万亿,两年之内增长了1400倍。“词元”完全可以作为人工智能系统智力的计量单位。
由于数据是人工智能系统的重要资源,而词元是智力的计量单位,抓住了词元,也就抓住了人工智能系统的要害,因此,词元现在已经成为了大语言模型时代智力的最小计量单位。
张军平. Token应译为“知元”[J]. 中国科技术语, 2026, 28(3): 6.
在人工智能与自然语言处理技术快速发展的当下,核心术语的规范翻译直接关系到学术交流的准确性与学科体系的构建。token作为当下大语言模型及多模态技术的基础核心概念,其中文翻译始终存在争议,尚未形成统一规范。结合行业实践与学术探讨,笔者整合各方观点,就token的中文翻译及内涵界定谈几点思考,以期推动该术语的规范化发展。
token早期常被译为“令牌”,这一译法源于生活场景的具象类比。例如,南京地铁早期的圆形塑料地铁票,作为乘坐地铁的基本单元,其形态与“令牌”高度契合,成为该术语早期最直观的表述。彼时token主要应用于网络安全领域,“令牌”可准确传递其“身份验证凭证”的核心功能,在行业内已形成使用共识。
随着人工智能技术兴起,token的应用场景延伸至自然语言处理、多模态交互等领域,“令牌”的局限性愈发明显。其“凭证、标识”的固有属性,与人工智能领域中token作为“信息处理基本单元”的核心内涵不符,行业内随之出现多种翻译方案的探讨。
第一种观点主张译为“符元”,将其界定为“符号的基本单元”,认为这可体现token作为信息符号最小承载单位的属性。但该译法存在争议,“符”字易关联传统人工智能的“符号主义”理论,而该理论已难以涵盖当前大语言模型的技术特征,易引发概念混淆,因此未获广泛认可。
第二种观点以新智元、智元科技等机构为代表,主张译为“智元”,强调token作为人工智能基础单元在模型智能实现中的重要性。而中国计算机学会等机构则有不同的观点,认为token仅为信息处理单元,不具备独立“智能”属性,“智元”易造成误导,更倾向于“词元”译法。
“词元”将token界定为“语言的基本单元”,凸显其在自然语言处理中的作用,但仍有明显局限。从英文语境看,token不等同于单词,如预训练(pretrained)模型的前缀pre与后面的trained均可拆分为独立token,与“词元”隐含的“单词基本单元”认知不符;同时,当前token已延伸至多模态领域,图像块、语音片段等均可转化为token,“词元”无法涵盖这一需求,易产生认知偏差。
结合上述争议,笔者认为将token译为“知元”,更贴合其核心内涵与应用场景。“知”即知识,token作为信息处理基本单元,是构成知识的基础载体,对应数据、信息、知识认知层级中最基础的信息单元,既规避了“智元”的误导,也突破了“词元”的局限,可涵盖多模态场景。
从多模态技术来看,图像、语音、自然语言等均为知识的不同载体。token作为统一处理单元,核心是承载知识基础片段,“知元”可准确传递这一内涵。此外,中文token拆分可细化至偏旁部首(如“鑫”“犇”“淼”可以分别拆分为三个“金”“牛”“水”),这些单元无法用“词元”界定,却可视为知识基础片段,“知元”表述更合理。另外,图像块本身包含的信息粒度,实际上也不只是单个概念,也可能更丰富,用“知元”来表述也更合适一些。
综上,token翻译争议的本质是对其核心内涵与应用场景的认知差异。“令牌”已不适配当前技术需求,“符元”“智元”“词元”均有局限,“知元”既能体现其“信息处理基本单元”的核心属性,又能涵盖多模态场景,具备较强合理性。术语规范化需要形成行业共识,期待更多学者结合实践完善其翻译与内涵界定,共同推动人工智能领域术语体系的规范化。
范文杰. 科技术语译名规范需与辞书、教材编修协同共进[J]. 中国科技术语, 2026, 28(3): 7.
人工智能技术的普及,使科技术语规范化成为知识传播与教育教学创新的重要课题,英文术语token便是典型例证。该词在人工智能领域译法各异,直至全国科学技术名词审定委员会推荐“词元”作为标准中文译名,才终结了这一混乱局面。
作为人工智能领域的核心术语,token此前因跨领域、多场景的应用属性,衍生出十余种译名,这些译名各有偏重,也各有短板,难以适配大模型语境。例如,“令牌”“标记”源于计算机传统领域,与“最小信息处理单元”的核心内涵脱节;“代币”“通证”带有区块链行业标签,易对人工智能技术本质的认知造成误导;“语元”“字元”语义覆盖面宽窄失当;“智元”“模元”则缺乏对其语言学属性的反映。而“词元”精准契合token的技术本质,既以“词”锚定其语言学起源,又以“元”凸显其最小基础单元的属性,成为兼顾专业性、规范性及通用性的术语定名典范,为后续传播与应用奠定了良好基础。
科技术语译名的规范化,不应是术语审定机构单一的定名行为,更需要权威辞书收录与教材编写的协同跟进,三者互通协调,才能让规范术语真正普及落地。
权威语文辞书作为语言规范的标杆、知识服务的桥梁,及时收录应用广泛且大众熟知的科技术语,成为固化规范定名成果的关键。以《新华字典》《现代汉语词典》为代表的“国民辞书”,将“词元”这类规范科技术语纳入新版字词典的收录范畴,通过准确释义、科学配例,为广大读者提供权威的语言参照,使热门术语及时融入国家通用语言体系,实现科技术语与日常语言的有机衔接,筑牢术语规范的语言根基。
教材编写修订则是科技术语从专业领域走向基础教育场景的重要渠道,更是科技术语传播、普及的关键环节。当前,AI通识教育正全面走进中小学课堂,基础教育教材中术语使用的规范性直接关乎教学质量与学生科学认知的养成。若教材编修与术语定名、辞书收录能实现协调共进,就能有效规避译名混乱造成的教学偏差,帮助学生精准理解科技概念,更能在教学中培育学生严谨的学术态度与良好的语用习惯,让科技术语规范真正扎根基础教育。
科学严谨的科技术语规范建设,是夯实中国特色哲学社会科学学科体系、学术体系与话语体系建设的重要基础性工程。“词元”的定名,为人工智能领域科技术语规范化提供了范本,其后续的传播与普及,更需要术语审定机构、权威辞书编纂、教材编写三方紧密衔接,协同发力。唯有如此,才能让更多科技术语实现本土化、规范化,让规范的科技术语成为科技进步与教育发展的坚实支撑,推动科技文明与语言规范协同共进。
李宇明. Token中译,优选“词元”[J]. 中国科技术语, 2026, 28(3): 8-9.
符号意义上的“能指”与“所指”,其关系具有任意性。所指包括事事物物、概念观念等;能指包括语言文字、符号图像等。理论上,任何所指都可以用任意符号指称。但在现实语言生活中,这种任意性是有限度的,语言使用者希望能指与所指之间具有理据性。但因对所指认识不同、对能指所持理据不同、词汇搭配要求不同等,常会出现一个事物、一个概念“多名共用”的现象。任意性允许“多名共用”的现象存在;而理据性又不断激发“正名”诉求,从而引发不同理据名称之间的竞争。
理想的名称或译名,要满足多方面的条件,例如:一,要认识所指的本质和特点,通过名称就能较好地理解所指;二,在词汇系统中要和谐,不深奥、不流俗,特别是术语,还要没有歧义,能显示概念的家族体系;三,选用的汉字不能太生僻,最好还要有一定的意蕴。但是,若要三条齐备,实属不易。
就token来说,它的应用横跨多个领域且内涵各异,若不用token原形或是音译,想要寻觅一个可适应不同领域的译名,实在困难。一个讨巧的办法是根据不同领域给予不同的译名。例如,在互联网领域,利用密码学原理生成、用于身份认证和数据安全的token,可译为“令牌”;在区块链领域,具有加密货币功能的token,则可译为“代币”。
在大语言模型自然语言处理中,连续文本被分割为离散的最小单元token,这种token多数是词,也有大于词的词串、小于词的词缀,还有标点符号等。大语言模型不仅处理语言,也处理符图(符号、图像、声音)等,将图像、音流等分割成小块(patch),并将其视为token进行处理。可以说,大语言模型就是在把表达复杂世界的语言符图等,拆解为可计量、可计算、可流转的最小单位token。
这一领域的token,目前有“托肯”“词元”“语元”“符元”“模元”“智元”等多种译名。“托肯”是音译,其他是意译,目前人们倾向于意译,且基本采用“X元”的构词方式。“元”取“元素”之意,有“基本单元”“最小单元”的含义,符合token的特点。“词元”“语元”“符元”“模元”“智元”从不同角度说明“元”,且各有理据。“词元”“语元”点明其语言属性;“符元”强调其符号属性,认为token不只是语言单位;“模元”强调token的多模态特点;“智元”强调token是人工智能领域的一种基本单位。
比较这五个“X元”,窃以为“词元”稍具优越性。其一,在语言学中,词是能够自由运用的最小的音义结合体,是构成句子的基本成分。“最小”的特点和“构句”的功能,与token极为相近。其二,从语言实体看,token虽然包含很多非词成分,但其主体仍然是词,且早期的自然语言处理的确是从分词开始的,词是当时切分的基本单位,虽然那时也有大于词或小于词的非词成分。随着技术的发展,token家族的成员及token的内涵等也会发生变化,需要及时观察与适应。其三,token 的使用已跨越人工智能学界,“词元”中的“词”可以作为理解token的一个术语立足点,方便其他学界和社会大众理解。实际上,已有“词云”(word cloud)、“词袋”(bag of words)等术语在前,“词元”的加入正可完善“词X”这一术语家族。
维特根斯坦曾经提出“家族相似性”(family resemblance)的哲学概念。范畴成员的特性虽然不尽相同,但是相互之间至少有一个或多个共同属性。范畴中,有些成员与其他成员的相似性最高,属于典型成员,而有些成员与其他成员相似性较低,是非典型成员。根据家族相似性的原理,token内部的成员虽然多样,但是词是其典型成员,是最典型的token。故而把token译为“词元”,并不排斥其他非词成分的存在。只是在解释“词元”时,要注意说明词元中有非词存在,包括各种符图,以免误解。
术语定名能否为人接受,根本还是看其使用情况。以“鲁棒性”(robustness)为例,该词是指系统在面对内部结构或外部环境变化时仍能维持功能稳定运行的能力。这个音译词在语义关联上并不理想,难以帮助读者理解其义,但是依然在被使用。再如“激光”(laser),意指基于粒子受激辐射放大原理产生的高强度光束,译名反映了激光生成的原理,常被称赞。但是也有把laser音译为“镭射”的,激光与放射性元素镭(radium)没有关系,且“镭射”还可能引发误解。然而,“镭射”仍在港澳地区使用,内地也有“镭射灯”“镭射膜”“镭射机”“镭射材料”“镭射工艺”等用法。由此可见,不理想的译名也有一定的生命力。
microphone的中文译名更有趣。其早年被音译为“麦克风”,后来被意译为“话筒”,并一度代替了“麦克风”。然而,近来“麦克风”势头又起,且常简称为“麦克”“麦”。这并非对“意译优先”的否定,而是源于话筒形态的巨大演变:有的话筒变得很小,完全没有“筒”的外形;有的仅表现为拾音孔或耳麦中的内置组件,感官上更接近一个“开关”或“按钮”。把这样的设备说成“话筒”,也的确别扭。而且单音节“麦”在“双麦降噪”(双麦克风通话降噪技术)、“开麦”(打开麦克风的开关)、“喊麦”(一种对着麦克风吼的说唱)等词语中,也比“话筒”有优势。因此,形成了“话筒”“麦克风”“麦克”“麦”共存分用的局面。
“词元”能否通用,最终还要看语言生活的应用情况和语言社群的意向。还是《荀子·正名》说得对:“名无固宜,约之以命,约定俗成谓之宜。”
陈国华.Type和token:符类和符元:从词源学、符号学与多模态人工智能视角给出的理由[J]. 中国科技术语, 2026, 28(3): 9-10.
在翻译外来术语时,我认为最好从三个方面来权衡不同译名的优劣。一,最好不违背该术语的词源义,因为一个术语的词源义往往制约着其衍生义的衍生方向和内涵;二,当一个术语衍生义的内涵已经超出其词源义时,其译名最好能精准易懂地体现该术语在不同学科领域的不同指称对象;三,一个好译名应有较好的皮实性(robustness)或宽容度,即自身不用改变就能用作其各种派生词的词干。
在各方提出的token译名当中,我认为“符元”最符合上面三条标准,既不违背查尔斯·桑德斯·珀斯(Charle S. Peirce,1839—1914)于1906年正式提出type-token(符类—符例)这一对符号学术语时下的定义,又吻合其今天在AI各领域的指称对象,还经得起不同词类的派生。
从词源学视角来看,type源自拉丁文typus,表示“形象”“类型”;后者又源自希腊文typos,表示“压印”“印记”“模型”。token源自古英文tācen,表示“符号”“象征”。珀斯最早将这两个词用作符号学(semiotics)的一对相互关联的术语。他将像英文冠词the这样的一个确定有意义的形式(a definitely significant form)称为一个“类别”(type);将这样一个类别“在一本书的某一页的某一行里”出现一次称为“个例”(token)。
当type和token作为符号学术语被译成中文时,为彰显二者的学科属性,中国学者通常将这两个术语分别译成“类符”和“形符”。例如,冯志伟、张灯柯在“外国语文”微信公众号上发表的《N元语法模型及其与大语言模型的关系》一文中说:“1992年,Kucera对莎士比亚(Shakespeare)的全部著作进行过统计,发现其中有884 647个‘形符’,29 066个‘类符’。”通俗地说,就是莎士比亚共写了近90万词的著作,这些著作的词汇量共近3万个。
进入大语言模型时代以来,token的使用频率大大超过type。同时,可能是为了彰显token的学科属性,人们给token换了一个中文译名——“词元”及其派生词“词元化”。例如,在前文提到的冯、张的同一篇论文里有这样一段文字:
“大语言模型的核心是Transformer,主要有5个部分:①词元化(tokenization):把输入文本切分为词元(token)。②嵌入(embedding):把词元转换成词向量,嵌入到向量空间中。……”
然而,在当代人工智能领域,token的使用早已超出语言符号的范围,现广泛应用于音频、图像、视频符号的处理。多模态AI(如GPT4o、Chameleon等)将原始数据转换为统一的符元序列。在非文本场景中,音频和视频的“词元”以及“词元化”容易引发误导。相比之下,“符元”和“符元化”不受模态限制,能够统一涵盖文本、声音与视觉等多种模态符号的具体实例,更符合珀斯符号学对“符”的普适理解。
从符号学术语体系来看,珀斯符号学以“符”为核心概念,其符号本身的三分法包括质符(qualisign)、单符(sinsign,即符元)和型符(legisign,即符类)。type和token的译名采用“符类”与“符元”,能将二者统一置于“符”的框架之下,从而清晰地展现它们是同一符号现象的两种存在方式(即抽象法则与具体实例)。从语言系统这一视角来看,token和type是一对同时创建并迄今都仍在使用的术语。如果token译作“词元”,那么type是否得译成“词类”?那样一来,一切就都乱套了。
结论是,“符类”与“符元”不仅是珀斯type与token最适宜的中文译法,还为理解人工智能符号学提供了连贯的理论框架。它既忠实于这两个词的词源义,又不违背珀斯的定义,与其符号学体系十分和谐,还能适应多模态AI的现实发展,为跨学科研究提供了清晰且普适的术语基础。
(本文蒙南京大学柯平教授、江苏师范大学金立鑫教授和北京外国语大学文秋芳教授提出修改建议,特此致谢。)
完权. 一场商战给token译名的启示[J]. 中国科技术语, 2026, 28(3): 10-11.
用过老式录像机的朋友们也许还记得,在四五十年前的录像机制式大战中,索尼画质清晰,精致小巧,技术上虽然更具优势,但最后赢得市场的却是松下的VHS。原因无他,市场使然。VHS画质也够用,且录制时长更契合家用需求,联盟更开放,参与片商更多,机器更便宜,租赁渠道和片源也更丰富。消费者不看实验室参数,而看买不买得到、价格贵不贵、影片多不多。于是,市场生态决定了制式生死。
商战故事揭示传播学之道。标准之争,决定胜负的往往不是理论上的最优,而是谁更容易被大多数人接受和沿用。换到术语领域,道理几乎一样。一个译名最后能不能留下来,看的不只是它在词源学上多严密、在概念上多精确,更要看它是否便于理解、记忆、复述,是否便于融入既有概念架构,以及能不能抢先进入教材、媒体、课堂和平台文档。
token的汉语译名之争,正适合放在这个框架下衡量。
从大模型原理看,文本进入系统后,要先经过切分,形成一列可以编号、嵌入和预测的离散符号,即token;后续表示学习、注意力计算和下一单位的预测,都是围绕这串符号展开的。一个token可以是字、词、片段、标点;在多模态模型中,还可以对应图像块或音频片段。关键在于,这是一个符号片段。
从词源学看,token在英语中原本就有“记号”“标志”“凭证”的意思。后来在语言学和哲学中,又形成了与“型”相对的用法,表示某个符号在具体文本中出现的实例。在编译原理中,token更是经典术语,指从字符流中识别出来、供后续分析处理的离散单位。这样一个词,同时带有“符号性”和“实例性”,又不预设必须等同于词,自然很适合被大语言模型接过来继续使用。token在英语中的普及,是多个学科系统推出的结果。
根据传播学规律,一个译名能不能流行,要看其所处的系统生态,即能否被广泛且低成本地理解、记住和重复使用。由是观之,“词元”目前仍然是最有胜算的方案。它简短工整,具备术语感,放进教材、媒体和课堂都不算突兀。问题当然也很明显:太容易让人误以为token就是个词。但这个偏差还没有严重到无法修补的地步,只要说明“词元不一定等于词”,在大多数应用场景下仍能运转。
“符元”在概念上更接近token的本义,但是它技术性太强,理解门槛略高,使用基础也比较薄弱;“模元”容易被误解成模型内部结构的单元;“智元”带着过重的营销色彩;“符例”是更加技术流的尝试,它抓住了“实例”的意味,在理论探讨中很有用,但在日常表达中显得不够顺口。综合来看,上述译名的推广前景均不容乐观。
再看将来,认知语义学或许还会给“词元”提供语义扩容的空间——即词义借由隐喻而引申。许多词最初只服务于某个狭窄领域,后来因为使用范围不断扩大,逐渐获得了新含义,“窗口”“病毒”“流”“平台”都是如此。故而,“词元”中的“词”也未必局限于自然语言中的“词”。随着大模型语境越来越稳定,它很可能慢慢扩展为更具抽象意义的“输入流中可切分、可处理、可预测的基本单位”。
“词元”就是曾经的VHS,虽然技术上并不完美,但市场将给它传播的生命力。
袁家宏. 对token译作“词元”的一点商榷[J]. 中国科技术语, 2026, 28(3): 11-12.
从汉语术语系统、语言学传统和概念准确性来看,把token译为“词元”并不十分恰当。这个译名不仅掩盖了token最核心的含义,也带来了新的术语混乱。
在汉语学术术语中,“元”通常使人联想到基本单位、变量或维度,而不是某一类别的具体实例。例如“图元”“多元函数”“二元对立”等术语中,“元”强调系统中的单位性,而不特指某一单位在实际使用中的个别情形。
但token的核心含义并不是抽象单位,而是具体实例。在语言学和语料库研究中,token与type相对:type指类别,token指该类别在实际文本中的一次具体出现。比如一句话里同一个词出现三次,就对应三个token。token所强调的是“实例性”,而不是“抽象单位性”。把token译成“词元”,容易让人误以为它指的是某种抽象的词汇单位,甚至与lexeme或“词位”混淆。
另外,token并不一定是“词”意义上的单位,它只是经过tokenizer切分后得到的处理片段。不同tokenizer的策略不同,得到的token序列差异很大。比如“unaffordable housing”用WordPiece tokenizer切分,结果可能是["una", "##ff", "##ord", "##able", "housing"];用 byte level BPE tokenizer切分,结果可能是["un", "affordable", " housing"],其中" housing"前面的空格也是该token的一部分;如果使用 character level tokenizer,结果则可能是["u", "n", "a", "f", "f", "o", "r", "d", "a", "b", "l", "e", " ", "h", "o", "u", "s", "i", "n", "g"]。这些都是token,它们只是模型处理中得到的离散片段。若把它们统称为“词元”,容易让人误以为token与“词”之间存在稳定而紧密的对应关系,但事实上这种对应关系并不是必然的。
在语言学中,常用“形符”对应token,用“类符”对应type。这样的译法虽然听起来可能不够自然,却在概念上相对更为严谨。“符”天然带有“记号”的意味,更能体现token作为某一类别具体实例的特征,较好地保留了token的本义。相比之下,“词元”却在一定程度上牺牲了这种概念区分。“词元”或许可以作为一个约定俗成的术语加以推广,但它并不是一个概念清晰、术语协调的理想译名。
柯平,贺凯达.Token应译为“符元”[J]. 中国科技术语, 2026, 28(3): 12-13.
在人工智能与自然语言处理技术飞速发展的今天,token一词已从专业术语进入公众视野。其中文译名的规范与统一,也成为翻译界、语言学界与科技界共同关注的问题。本文拟结合术语翻译的原则与实践,就token的译名问题略陈浅见,就教于方家。
术语翻译的首要原则是“按实定名”,即译名必须精准贴合原文所指称概念的核心内涵。要为token定名,首先需要明确该术语所指称的概念的本质。在传统语言学和语料库研究中,token与type是一对相互依存的概念,它们构成了“具体实例”与“抽象类别”的对比关系。例如,一句话中出现的每一个具体字词是一个token,而词汇表里不重复的词项就是type。在人工智能时代,token的内涵有了延伸,成为“智能设备中信息存储、处理和交换的具有一定语义的基本符号单元”。智能设备底层的运算逻辑建立在纯粹的数学计算之上,无法直接处理连续的自然语言、图像或语音内容。一段完整的文本欲由机器自动处理,需要先经历“离散化”(discretization)过程,即被切分成一个个不连续的独立数据片段。这样切分出来的每一个文本数据片段,在英语里便叫作token。然而,文本数据片段依然无法直接参与数学运算。为了实现文本的数学运算,人工智能系统会预先构建一个庞大的词表,为每一个token分配一个专属的唯一整数编号,叫token ID。token ID充当了计算系统内的检索桥梁,因为它将文本转化成了计算机能够记录和处理的离散数字。但单纯的整数编号并不能反映词义的关联,计算系统尚需要进一步将token ID映射为一组由大量实数组成的“高维向量”(high dimensional vector)。这组复杂的数字坐标精确描绘了token在多维语义空间中的相对位置与特征。将文本片段(token)、数字索引(token ID)以及深层语义坐标(高维向量)紧密串联起来的,正是大模型底层的映射机制。通过这套机制,人类语言被彻底转化为机器能够执行矩阵运算的底层数理形态。
在当前突飞猛进的多模态技术框架下,智能设备除了处理文本外,还经常需要处理画面、声音等多媒体数据。在处理一幅画面或一段声音时,智能计算机系统同样要将图像切分为像素块,将音频切分为波形片段。这些非文本的数据切片最终也都会被当作一个个独立的token,被分配给予各自专属的数字编号,并被统一转化为可运算的离散序列。这意味着,在底层数理层面上,token已超越纯粹的语言学范畴,演变为一种通用的数字单位符号。正是这种跨媒介的离散化与数字化特征,决定了token的译名应具有足够宽广的外延,以便精准体现token作为智能设备底层信息处理单元的本质。
术语翻译的第二条原则是“协调统一”。这要求术语译者严谨地照护相互关联的术语译名间的逻辑关联,并统一考虑这些术语在不同学科和应用场景中译法的内在联系。理想的译名应当贴合目标语言中术语的用语习惯,与现有术语保持体系和语义上的连贯,避免概念混乱。
基于上述两个原则,并充分考虑token的上述特征与属性(尤其是大模型处理内容多模态化的发展需求),笔者主张将token译为“符义处理单元”(简称“符元”),因为这一译名可完整涵盖token的核心内涵,做到跨学科(跨媒体)的概念统一。该译名中的“符”字在语言学语境里对应“语符”,指向文本意义;在多模态信息处理领域里对应“音频采样点”“对象结构特征(边缘、角点、纹理等)”“像素”等数字信号或代码,涵盖声音、图像等多媒体信息的数字化表现形式。“符”概念外延的弹性使其能够自然包含文本、图像、音频等多种信息形态的数据,较好地表征了token作为多模态离散信号单元的本质。
“符义处理单元”译名中的“义”字点明了计算处理过程中切分基本单元的最终目的:在智能设备底层运作中,单个数据片段通常不具备独立含义,但通过对海量基础单元的识别、组合与计算,智能设备最终会实现理解与生成语义的目的。因此,“义”字揭示了token所指称的信息单元具有意义理解与生成服务的功能。
最后,该译名中“处理单元”几个字明确了token作为智能设备底层运算单位的属性。
“符义处理单元”译名的简称“符元”,让人想到中文里耳熟能详的“元素”“单元”等词,有利于其他学科中相关术语的自然类推翻译和不同专业领域术语译名理据的协调统一。例如,语言学中与token相对的type便可类推译为“符类”。如此,“符元”与“符类”两个术语工整对偶,完美契合该学科里“实例与类别”这一概念分野背后的认知框架。
凌震华. “词元”译名的合理性与应用考量[J]. 中国科技术语, 2026, 28(3): 13-14.
在大语言模型技术研究与应用不断深化的背景下,核心术语的规范译法对学术交流、知识传播至关重要。针对token的中文翻译,笔者认为将其译为“词元”,能够精准契合该概念在大语言模型中的核心功能与本质属性,具备较强的学术合理性,同时也需要厘清使用误区、规避术语混淆并完善多模态场景下的译法拓展。
从功能维度来看,token是当前大语言模型进行文本表示、建模与生成的基础单元,“元”字恰好凸显其作为模型运算、语义生成起点的核心定位,直观体现了该单元在大语言模型架构中的基础性地位。而“词”字则精准概括了token的两大关键特征:一是离散化特征,这与传统语言学中单词的属性相契合,大语言模型依托预设词表完成token的表征与编码,每个token均对应词表中的固定条目,呈现出非连续的离散化表征特点;二是语义关联特征,token并非单纯的物理信号或字符片段,而是承载抽象语义信息、实现语言表达与理解的基本载体,具备语言学层面的语义功能。
将token统一译为“词元”并推广使用,需要重点规避使用误区,树立规范的术语使用习惯。其一,需要明确模型中的“词元”与传统语言学中的“词”并非一一对应关系。大语言模型中的token通过算法自动学习生成,既可能是完整的词,也可能是词的子片段,或是多个词的组合单元,二者在范畴和构成逻辑上存在本质差异,不可混为一谈。其二,随着多模态大语言模型成为研究热点,模型输入模态拓展至语音、视频等领域,衍生出speech token、visual token等新表述,如何在“词元”译法基础上完成多模态术语的适配与拓展,是亟待探讨的问题。是沿用核心译法补充限定词,如译为“语音词元”“视觉词元”,还是针对多模态token设计专属术语,需要结合学科规范进一步论证。
此外,术语使用的兼容性问题不容忽视。在传统语言学、计算语言学既有研究体系中,“词元”一词已有固定学术定义与使用场景,需要避免因跨学科术语复用引发的概念混淆。在学术写作与交流中,应明确语境边界,并非所有中文语境下的“词元”均对应英文token,要结合学科范畴、技术场景精准区分,保障学术表达的严谨性与准确性。
术语规范是人工智能学科发展的基础工作,token译法的探讨需要兼顾技术本质、学科传统与应用场景,在达成共识的基础上不断完善,为大语言模型领域的学术研究与跨学科交流筑牢术语根基。