点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
动车“体检师”精心守护广深港高铁列车安全****** 中新社广州1月14日电 题：动车“体检师”精心守护广深港高铁列车安全 中新社记者 郭军 凌晨时分，在南方潮湿的空气中，一列“复兴号”列车缓缓驶入广州南动车运用所一二级检修库，这里专门针对动车组列车进行检查、测试、维修和养护等作业。广深港高铁福田至香港西九龙段即将恢复运营之际，记者深夜探访了这个中国华南地区最大的动车检修所。  图为1月12日晚，广东省广州市，广州南动车运用所工作人员检修广深港高铁“复兴号”列车。 中新社记者 陈骥旻 摄据介绍，广铁集团广州动车段组织动车“体检师”，为即将担当广深港高铁交路的动车组列车开展深度检查和养护，认真做好动车组性能调试、消毒等工作，为广深港高铁福田至香港西九龙段正式恢复运营做足了准备。 走进检修库，一列“复兴号”列车停在轨道上，几名工作人员正在列车两侧和车顶上进行检修作业，偌大的检修库内略显安静，偶尔听见受电弓断电时发出的噼啪声。  图为1月12日晚，广东省广州市，一列广深港高铁“复兴号”列车停靠在广州南动车运用所一二级检修库内等待检修。 中新社记者 陈骥旻 摄“这一列广深港高铁‘复兴号’列车今晚将接受一级检修，四名工作人员要花上两个半小时来完成这项工作。”广州动车段广州南动车运用所助理工程师周帅介绍说，重点是做好列车走行部、内部服务设施、车顶的检修。 不仅是细致入微，还要面面俱到。轨道之下，长长的地沟也要走一遍，工作人员手里的手电筒既有照明的作用，同时还有摄像头在上面，检查到的每一处也会有影像记录下来。 每一处检查，既靠眼力，也有科技加持。车组轮对、牵引电机、齿轮箱等部件都是检查的重点，一旦发现故障，工作人员就会及时向上级汇报，然后再由专门的工作人员过来维修。  图为1月12日晚，广东省广州市，广州南动车运用所工作人员在广深港高铁“复兴号”列车内开展检修工作。 中新社记者 陈骥旻 摄“整个转向架最重要的东西是轮对，主要检查它的踏面，看上面有没有割伤、烙伤等伤痕。”正在进行检修作业的工作人员罗前说。他又指向车体下一个类似充气轮胎的部件说道：“这是空气弹簧，属于车体与转向架之间的连接，我们检查主要是确保它没有裂纹和鼓泡，它的作用主要是调整车体的左右平衡。” 列车断电之后，记者随工作人员来到列车顶部。这里重点检查受电弓、避雷器等高压设备。 据介绍，按照检修作业标准，“复兴号”列车每行驶8000公里，便要接受一次一级检修。除了检修以外，为了即将到来的广深港高铁福田至香港西九龙段逐步恢复运营，广州南动车运用所也已经提前开展相关的试运行工作。 为了确保广深港高铁再次开行，广州动车段一共组织了6列标准组“复兴号”列车。“我们从8号就安排机械师随车开展试运行工作，持续开展了五天，每天都是保证车组正常地按照后续开行的交路行驶，空车不载客。我们能够、也有信心，在广深港再次开通时承担确保车组运行的任务。”周帅说道。 据介绍，广州动车段还专门挑选了24位素质高、形象好、业务高的随车机械师参与车组值乘作业，同时专门对他们进行了外事和应急培训，以确保车组在线上运行安全。(完)
|
)