机器人新闻写作的风险评估及责任机制探讨
内容提要:写稿机器人已是当下媒体机构中一支不可忽视的新闻生产力量。国内外新闻传播领域重在关注机器人在新闻生产中的应用，对其可能存在的风险问题认识相对不足，对写稿机器人相关各方的责任研究比较薄弱。本文就写稿机器人的设计者、生产者、运营者与使用者应当为其行为承担怎样的责任，对写稿机器人又该如何实施监管提出看法。
关键词:写稿机器人；新闻写作；风险评估；责任机制
人工智能应用于媒体实践的一个重要方面就是机器人新闻写作。如今，越来越多的主流媒体引入写稿机器人作为内容生产工具。但机器人新闻写作是把"双刃剑"，其既可以通过智能化技术更快更好地采集和处理新闻资源，解决媒体人在新闻生产中的一些痛点，又可能给内容生产安全带来多方面的风险。
当写稿机器人犯错时，又该由谁来为此买单？防范和杜绝写稿机器人可能引发的风险问题，需要厘清其设计者、生产者、所有者、使用者以及监管者的责任归属与权利边界，从法律层面保证写稿机器人设计、生产的合理性，并督促使用者正确应用、监管者科学管理，从而推动治理原则贯穿写稿机器人写作与服务的全过程。
一、写稿机器人的应用现状
自2015年9月10日，腾讯发布国内首篇由机器人撰写的新闻稿《8月CPI同比上涨2%创12个月新高》以来，我国写稿机器人大举进军媒体。
（一）应用范围越来越广。从新华社等国家级媒体引领，到省、市级媒体跟进，我国机器人新闻写作起步虽较晚，但发展速度非常快。据不完全统计，全国自主研发或引进写稿机器人的媒体已超过30家，涌现出了一大批机器写手，其中以"小"字命名的居多，如新华社的"快笔小新"、人民日报的"小融"、光明日报的"小明"、浙江卫视的"小聪"……
更为关键的是，写稿机器人已不再是用来吸引眼球的噱头，而是真正在新闻采编中发挥独特作用。2019年8月，在超强台风"利奇马"报道中，浙江广电集团旗下的钱江都市频道通过机器人快速制作了多条非常直观专业的数据新闻视频，取得了很好的传播效果。
（二）应用频率越来越高。写稿机器人不仅在垂直领域报道中作品被高频率采用，而且在一些传统媒体和新媒体上开设栏目专题。早在2015年11月，新华社首位"机器人员工"——"快笔小新"就常态化向一些栏目供稿；2016年12月，微软"小冰"加入《钱江晚报》，在"小时新闻"APP上开设"小冰公社"；2017年8月，封面新闻写稿机器人在APP设立"‘小冰’的封言封语"专栏；2019年4月，中国财富网研发的写稿机器人——"财富小精灵"上线，并发布"智讯"新闻。
（三）应用功能越来越强。从内容上看，之前写稿机器人的报道范围主要集中在财经、体育、灾难、天气等以简单数据呈现为主的领域。如今，写稿机器人的写作内容已向民生新闻甚至时政新闻延伸，开始探索自动生成新闻综述、新闻评论等较复杂的报道。2017年全国两会期间，广州日报写稿机器人"阿同""阿乐"连续写出《政府工作报告》热词分析、外交部长记者会热点问题分析等多篇报道。
从表现形态上看，写稿机器人已从文字向视频拓展，实现了视频的智能化生产和编辑。2018年3月2日，新华社"媒体大脑"从5亿网页中，仅用15秒钟就生产出第一条完全由机器生产的视频新闻。2019年8月26日，新华社又推出"智能新闻机器人第一梯队"，发布自主研发的25款媒体机器人，大大丰富了媒体机器人的生产功能与产品形态。
（四）应用影响越来越大。我们不知什么时候点击的新闻，就是出自24小时无眠无休、永不疲倦的机器人之手。写作速度快，生产数量多，准确程度高，可突破时空束缚，这些无疑是写稿机器人非常显著的特点，也是写稿机器人赢得影响力的原因所在。特别是在突发事件报道中，写稿机器人可根据算法在第一时间自动生成稿件，时效优势明显。如2017年8月8日21时19分四川九寨沟发生7级地震，机器人仅用25秒就写出新闻稿实现全球首发。
（五）应用前景越来越好。在未来，智能化将成为媒体最重要的特点之一。一方面，随着大数据的发展，媒体人在新闻资源的采集和处理过程中，势必需要引入更多更先进的机器人，以不断提高新闻生产的能力与水平。另一方面，随着对人工智能识别技术以及学习技术的升级，写稿机器人的能力不断被挖掘和提升，其会涉足更多报道领域，突破更多媒体的"内容防线"。如目前较难驾驭的深度报道、时政新闻等，也有可能成为机器人的新写作技能。届时，我们必将迎来一个全新的媒体生态。
二、机器人新闻写作存在的内容风险
从实践层面看，由于多种因素限制，机器人新闻写作还不能完全避免犯错。而且由于写稿机器人的特殊性，其一旦偏离"轨道"，可能产生的不良后果波及面更广、影响更严重。
（一）内容的失真风险，主要是数据准不准的问题。写稿机器人应用需要以海量的数据作支撑，其内容的生产质量取决于积累的稳定可靠的数据源。在机器人新闻写作中，数据本源真不真，有没有遭受污染甚至篡改？数据质量高不高，有没有采集到核心关键数据？数据规模大不大，多样性是不是足够？如果基础数据集不实、不全、不准确或处理数据的算法包含错误，那么写稿机器人就可能产生错误报道。当前，"信息孤岛"问题依然突出，很多数据没有实现互通、共享，制约了数据集质量。
（二）内容的导向风险，主要是观点正不正的问题。技术需要正确的价值观来引领，写稿机器人的算法由设计者的价值观决定。当前，媒体应用的写稿机器人有的是与技术公司合作开发，有的是媒体完全自主研发，也有的是直接从第三方引进。写稿机器人设计生产主体多元，这一方面有利于激发创新活力，另一方面因为标准不统一，又可能带来安全隐患。写稿机器人应确保写作内容的绝对安全，决不能只追求"快不快"而不管"对不对"，只追求"真不真"而不管"正不正"，只追求"多不多"而不管"好不好"，放弃"举旗定向"的责任，任由背离公序良俗甚至触犯法律法规的内容"出笼"。
（三）内容的偏见风险，主要是事实全不全的问题。机器是中立的，但为机器设计算法程序的人却不是中立的。当设计者在算法建模中选择包含哪些属性或忽略哪些属性时，个人的思想不同、立场不同、角度不同、态度不同，往往直接影响甚至决定结果，导致得出的可能是既无法代表事实也无法反映存在的偏见。同样，数据收集本身是带着设计者主观意识的，有着"天然的偏见基因"。当设计者以自己的理解去获取、存储、分析数据，就可能在算法中植入偏见，并在应用中不断延续和扩大。
（四）内容的侵权风险，主要是法规依不依的问题。获取和处理海量信息数据，不可避免会涉及个人隐私保护这一重要伦理问题。有的算法设计者可能会无视用户的隐私保护:一方面过度收集数据，如将个人敏感数据纳入收集范围；另一方面对个人数据缺少有效保护，随意流转数据，导致数据泄露。在互联网生活早已成为公共生活一部分的今天，完全拒绝让渡任何个人信息无法想象。但如果写稿机器人收集数据得不到合理管控，人类将被置于隐私"裸奔"境地，产生严重的伦理问题。另外，聚合全网信息而形成的大数据也容易引发侵犯作品著作权问题。
(五)内容的"黑箱"风险，主要是技术灵不灵的问题。专家指出，人工智能具有不可预知性，可能做出难以预测的损害性行为。"即使是最细心的设计者、编程者以及制造者都没有办法控制或者预测人工智能系统在脱离他们之后将会经历些什么。"[1]就写稿机器人而言，其怎样利用算法进行新闻生产和信息推荐的过程对于普通用户来说是个不可见的隐蔽"黑箱"，后台不可见的新闻生产让机器人写稿缺乏必要的公众监督。所以从某种程度说，写稿机器人存在操作权失控、被恶意使用或技术管理失当、遭受外来攻击等所带来的安全威胁。
三、构建写稿机器人的责任机制
善治才能有"善智"。对于写稿机器人，不可心存"先发展后治理"的侥幸。2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，给包括写稿机器人在内的人工智能的健康发展立下规矩。
我们必须增强风险意识，把党管媒体的原则延伸到技术领域，加强前瞻预防与约束引导，及早对写稿机器人应用中已出现或潜在的内容风险问题进行处理、规范、监管，以确保写稿机器人安全、可靠、可控，使写稿机器人走上健康、可持续发展的轨道。
（一）写稿机器人的设计者需要把好大局方向。写稿机器人具有技术属性和意识形态属性高度融合的特征。为此，写稿机器人的设计者必须同时具有技术的先进性与方向的正确性。
作为设计者要坚持正确政治方向。写稿机器人的设计者是新闻舆论工作的重要参与者，属于新时代新闻舆论工作者。新闻舆论工作是有方向、有立场、有原则的。写稿机器人的设计者头脑同样要特别清醒，同样必须树立马克思主义新闻观，恪守新闻工作的党性原则，始终成为党和人民的喉舌；同样必须把坚持正确政治方向摆在第一位，做到坚定政治信仰、站稳政治立场、保持政治定力、把牢政治方向。
作为设计者要坚持正确舆论导向。习近平总书记指出:"新闻舆论工作各个方面、各个环节都要坚持正确舆论导向。"机器人新闻写作也不例外。正确引导舆论同样必须成为写稿机器人设计者的初心和使命，要把讲导向落实到全体研发设计人员身上，落实到研发设计的每一个环节和每一个程序中。设计者要珍惜并用好手中的设计权，确保设计出来的算法能够融入社会主流价值、符合社会主流规范，在舆论导向上不出丝毫偏差。
作为设计者要坚持正确工作取向。作为写稿机器人的设计者要坚持以人民为中心的思想，不断提升设计的适用性、可操作性，增强设计的透明性、可解释性。特别是要告知可能产生的风险和影响，让利益相关者知道算法的设计意图、设计目标、运行效率、适用条件和存在的缺陷，了解算法的运行机制和做出特定决定的原因，确保用户知情权，从而更好地防范与应对机器人可能带给我们的风险。
（二）写稿机器人的生产者需要坚持质量标准。人工智能存在风险主体多元性和不可预知性。写稿机器人的生产者要建立科学的质量标准和控制体系，以提升产品安全。
作为生产者要不断提升生产环节的可公开。要把大众看不见的东西变为可充分了解的信息，切实提高大众的知情权，虚心倾听大众建议，促进生产环节的科学化。例如人工智能系统的部件制造者可能没有想到自己生产的部件会被应用在人工智能系统上。对此，生产者要给予公开，接受大众监督。
作为生产者要不断完善产品质量的可追溯。围绕写稿机器人生产各环节，建设跨领域的写稿机器人质量测试平台，开发系统性的测试方法和指标体系，推动写稿机器人安全认证，评估写稿机器人产品和系统的关键性能，构建动态的写稿机器人研发应用评价机制。
作为生产者要不断推进问题差错的可校准。要对参与人工智能系统部件的多元主体生产者，由于质量问题而发生的差错，给予持续校准。同时，要将责任分配给写稿机器人系统每一部件的生产者，建成完整的技术标准、服务体系，推行产品质量"三包"制度。
（三）写稿机器人的运营者需要树立阵地意识。写稿机器人是生产意识形态产品的新型工具，无疑是意识形态的新兴阵地。要根据"谁引进，谁负责""谁运营，谁负责""谁使用，谁负责"原则，担起意识形态工作主体责任制，做到守土有责、守土负责、守土尽责，履行好内容审核、安全把关的责任。
应用前的评估。媒体要加强对写稿机器人应用于新闻生产可能产生的影响进行全面评估，分析效果与潜在危害，制定对算法系统运行的风险评估标准，构建复杂应用场景下突发状况的解决方案，甚至在写稿机器人的研发、设计、生产阶段，媒体单位就提前主动介入，以促进人工智能算法逻辑与社会价值规范的统一。
应用后的管理。要制定写稿机器人的岗位管理、生产流程、发布标准等规定，建构与机器人新闻采写编发相适应的新流程。要通过运用新的智能化核查手段和工具，并结合传统媒体多年坚持的内容"三审"等好做法，探索建立有效的"人机结合"的内容核查机制。要配齐配足配强日常审核力量，由拥有较高媒介素养的人去给机器人把关。
应用中的保障。写稿机器人作为一套自动化的新闻生产系统，专业的技术与设备需要专业的技术人员进行维护与监测。要培养或引进专业的技术人员，来承担对写稿机器人的日常运维和错误修正工作。
（四）写稿机器人的使用者需要保持专业情怀。随着机器人新闻写作能力的提升，传统媒体的记者、编辑需要重新思考和整理自己在人工智能时代的定位和价值。有专家预言，未来的新闻业将是媒体人与技术人员协同写稿机器人一起合作高效开展新闻生产。
对于使用者来说，要提升算法素养。要避免新闻生产过程中的"唯技术论"。要对算法的设计和运行原理有一定理解和认识能力，对数据收集和结果输出有一定的辨别和解释能力；要科学认识机器人写作和算法新闻的局限性，对算法本身及其得出的结论保持批判态度。
对于使用者来说，要充分扬长避短。写稿机器人与人类记者应该是互补互存关系。人类记者要坚守新闻专业和传播规律，坚持对事实、信息、真相的不懈追求，对公开、透明、服务的牢牢把握，纠正机器的偏见、失误，增加机器的情感、温度，发挥自己作为"人"的优势，以写稿机器人的智慧拓展自己的能力，从而更高效地完成优质作品。
对于使用者来说，要当好"把关人"。核实是新闻的中心工作。人类记者要裁判机器人新闻写作中的价值，纠正机器人新闻写作中的偏见，修改机器人新闻写作中的错误甚至隐藏在数据背后的人为造假。根据社会实际，研判稿件发布的时度效，衡量轻重缓急，匹配时段位置，通过各种措施更有效地把符合社会主流价值观的内容推送给受众。
（五）写稿机器人的监管者需要筑牢安全底线。要明确写稿机器人的监管部门，在充分考虑新闻业和新闻算法特殊性的基础上，加快制定有效的监管措施，理清人工智能法律主体以及相关权利、义务和责任等关系，推进监管法治化、制度化、规范化。
建立准入机制。针对设计、生产写稿机器人的主体越来越多，获取写稿机器人越来越容易的实际，必须尽快明确写稿机器人的资质要求，建立科学的准入标准与评价体系，严格依照标准开展监管，管住源头。同时，尽快制定并落实写稿机器人生产、销售、使用的法律法规，提升安全评估和管控能力。
建立追责机制。受众有权利知道自己阅读观看的新闻是由人类记者还是机器人所创作。如中国财富网对"财富小精灵"写的稿件，发布时在文尾注明是写稿机器人快速生成的，并提醒"数据未经审核，转载或引用请谨慎"。但更多媒体对机器人写作的内容却打着匿名的旗号。当然，即使注明是写稿机器人的新闻作品，如出现问题，发布的媒体依然不能免责。同时，应切实加强对数据滥用、侵犯隐私、违背伦理等行为的惩戒力度。
建立退出机制。除了在日常不断纠偏设计、加强内容安全管理， 当发现写稿机器人存在缺陷或潜在风险时，应主动及时修复、优化，视情况决定是否中止算法系统及相关服务，并由相关责任方对造成的损失承担责任。
【注释】
[1]陈伟光:《关于人工智能治理问题的若干思考》，《人民论坛·学术前沿》，2017年10月（下）。
