口语作为人类最自然的交流形式,除了能传递语言学信息外,还可以传递副语言学信息,其中包括情绪。正确识别语音中的情绪信息对于社会交往非常重要。针对汉语情感韵律特征的识别过程,本项目首先在构建情感语料库的基础上,分析有效表征不同情绪状态的典型声学模式;然后使用ERP和fMRI技术,在词汇和句子两个水平上,分别探讨中性语义条件下不同情绪识别的时间进程和脑功能定位;以及情感语义条件下情感韵律特征与情感语义信息整合的神经机制。研究结果将对于揭示人类的情绪加工过程,以及对于提高语音工程中情绪信息的合成与识别效果,具有一定的理论意义和实践意义。
Speech;emotional prosody;affective word;emotion recognition;event–related potential(ERP)
情绪在个体的社会适应、行为调控中扮演着一个非常重要的角色。作为人类最自然的交流形式,人类口语中的情绪信息更多地是借助情感韵律特征通过言语活动表达出来,正确识别语音中的情绪信息对于社会交往非常重要。针对汉语情感韵律特征的识别过程,本项目首先在构建情感语料库的基础上,使用ERP技术,考察了中性语义条件下不同情绪识别的脑机制;以及情感语义条件下情感韵律特征与情感语义信息整合的时间进程, 为汉语语音工程中情感信息的合成与识别提供实验和理论依据。研究发现1.不同类型情绪韵律特征的识别具有不同的认知机制,而且会在一定程度上受实验任务不同产生的选择性注意的调节,尤其是在情绪韵律加工的第二个阶段上,当被试不需要直接对语音中的情绪信息进行直接判断时,则不需要对声学线索进行整合及有意识地提取韵律特征的情绪意义。在后期评价加工及反应准备阶段,会存在负性偏向效应。2.情绪韵律可以在面孔表情识别的早期知觉阶段、意义评估阶段及后期阶段调节其加工。3.在情绪韵律和词义的交互作用上,情绪韵律能够实时调节口语情绪词的识别,当词义与情绪韵律效价一致时,情绪词的音韵编码和语义加工会得到双重易化。4.使用言语材料考察情绪韵律识别时,存在一个独立于语义的对口语内容的音韵编码阶段。