彩云网计划_在线用户注册平台 | 官网APP下载

360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******

　　2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

　　在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

　　目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

　　报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

　　报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

　　为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。

　　在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。

　　作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。

　　随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。

南大“三板斧”直指科研评价改革******

　　从率先引入SCI论文指标，到主动打破“SCI至上”——

　　南大“三板斧”直指科研评价改革

■新征程新作为

　　今年，南京大学天文与空间科学学院教师李川顺利晋升为教授。

　　作为“羲和号”卫星科学与应用系统的总设计师，从2015年起，李川便将主要精力投入卫星工程的论证和研发中，志在解决我国太阳物理研究严重依赖国外卫星数据的“卡脖子”问题。经过团队多年艰苦付出，2021年，“羲和号”发射成功，开启了我国空间探日的时代。正是由于在这项国家重大工程中的突出贡献，李川在今年的教授职称评审和答辩中获得了校内外评委一致认可，顺利晋升。

　　党的二十大报告提出，深化科技体制改革，深化科技评价改革。近年来，南大积极改革科研评价体系，坚持质量与贡献导向，取消了“数论文、数项目、数奖项”单一评价体系，重点评价学术贡献、社会贡献以及人才培养贡献，为科研创新注入源头活水。

　　优化考评体系，避免一把尺子量到底

　　20世纪80年代末，南大作出了一项至今还在影响我国高等教育界的决定：率先从国外引入SCI（科学引文索引）论文指标，作为当时教师职称评审、博士生学位授予的重要评价标准。

　　这项改革对于当时还较为封闭的国内高校来说，无疑是一颗“重磅炸弹”。“当时国内外学术水平差距较大，缺乏客观有效的科技评价体系，SCI论文指标凭借其透明、简单、客观等优势，迅速在国内得到广泛应用，对推动南大等国内高校科研成果走向国际舞台起到了积极作用。”南大科学技术处处长姜田表示。

　　20世纪90年代起，在国际学术期刊上发表的SCI论文数量等量化指标，成为中国考核评价学术成果的主要标准。然而，过度追求SCI论文数量的现象逐渐显现，科研工作出现了价值追求扭曲、学风浮夸浮躁和急功近利等问题。

　　打破“SCI至上”，避免一把尺子量到底，曾经的“吃螃蟹者”开启了改革的步伐，从2014年提出做问题导向的原创研究，到2018年提出构建“三位一体原创驱动式”科学研究新模式，一系列改革让南大科研评价的理念更加明晰：建立以科技创新质量、学术贡献为导向的评价体系，让科研人员在创新链条上走得更远。

　　如今，南大吹响了科研评价改革“先锋号”，正在实践以质量和贡献为要素，以论文、奖项、专利、专著、决策咨询报告、文献整理、学术译著、艺术创作等各类成果形式为支撑的综合评价体系。同时，全面考察人才在培养周期内的表现，包括师德师风、教育教学、科学研究、社会服务、专业发展等。

　　从事传感芯片相关研究的南大教师张丽敏就是“不唯论文和影响因子”评审机制的受益者。5年来，她专注于国家战略和民生需求引导的科研工作。尽管相关研究存在难度大、周期长、期刊影响因子低等问题，但这并未阻碍她晋升为教授。职称评审时，张丽敏重点介绍了研究工作的原创性和自主知识产权的完整性，展示了相关成果在非接触可穿戴设备、运动姿势识别等领域的应用与前景，获得评委认可，顺利晋升。

　　“对取得重大理论创新成果、前沿技术突破、解决重大工程技术难题、在经济社会事业发展中作出重大贡献的教师，申报高级职称时论文不作限制性要求，进一步倡导学术贡献、社会贡献。”中国科学院院士、南大校长吕建表示，创新服务是教师的第一贡献。学校紧紧围绕“双一流”建设总体目标，大力开发教师“第一资源”，突出质量贡献，着力下好科研评价改革“先手棋”。

　　为了进一步激发科研人员创新活力，2021年，南大完善科研创新激励办法，由过去简单的工分制变成主客观评价相结合的形式，不可量化的贡献有了体现方式。同时，纳入评价的成果形式更加多元，论文在量化评价环节中的权重明显降低。

　　落实分类评价，打通各类人才晋升通道

　　南大艺术学院教师陆庆龙擅长油画和水彩画，他的50多幅作品被中国美术馆、中国国家博物馆、江苏美术馆等机构收藏。

　　“作为美术专业，实践性与创作能力一直是这个专业应该具备的重要特质，但在综合类大学的职称评审体系中往往不受重视。”让陆庆龙欣慰的是，南大充分考虑到实践类专业特点，在职称评审中予以突破。

　　在评审述职中，陆庆龙没有简单地选择期刊学术文章进行介绍，而是重点展示了自己近年来的美术创作。他在业界高度认可的“全国美术作品展览”上分别获得了“中国美术奖”金、银、铜奖，这些优秀创作成果得到了专家评委一致认可，使他顺利晋升教授。

　　在南大，越来越多像陆庆龙这样的特殊人才被“破格”聘用。作为全国较早开展分类评价的高校之一，南大在人文、社科、数理等学科分类基础上，进一步打破同质化评价标准，围绕学科特殊性，有针对性地分类设置审查形式及要求，并深化推行代表作制度，建立更专业的“小同行”专家组进行评审，确保评审客观、公正和专业。

　　例如，在校内学科学术方向中较为小众冷僻或专业特色明显的语言、书画艺术等被列入“冷门绝学”评审组，增加“作品参加国家顶级展览”“被著名博物馆收藏”等定性指标描述；面向航空航天等国家需求的科研人员设立专用先进技术学科组，评价重点放在是否在专用先进技术领域获得较大学术影响或取得经济、社会效益。

　　南大电子科学与工程学院副教授陈乐长期从事航空航天领域相关工作，多次主持并参与航天部门重要科研项目，但由于科研项目的特殊性，成果难以成文。在过去的评价导向下，特殊科研项目一线研究人员在职称评审中往往竞争力不足，人才的“引、留、用”困境难以解决。

　　针对此类人才评价特殊性，南大积极“做减法”。教师的职称评审不再唯论文数量，转而关注人才的代表性成果，兼顾科研任务类型和国家与社会认可度。根据科研项目等级，构建合理、公平、透明的人事考核制度，同时配套相应的目标激励和政策激励制度等。

　　“分类评价体系让青年科研人员最大化享受政策红利，有更多的获得感和成就感，激励我们聚焦主责主业，能够轻装远行。”陈乐说。

　　据统计，在2019到2021年度专用先进技术学科组职称评审中，最终评定教授5人、副教授2人；在特殊岗位学科组评审中，2人获评教授。

　　“学校积极在不同学科、不同层次、不同阶段人才特点的精细化分类评价机制上积极探索。”南大人力资源处副处长孙涛表示，希望通过健全分类评价体系，破除思想桎梏，让更多青年科技人才心无旁骛地面向国家重大需求，潜心前沿基础研究，推动学校师资队伍建设高质量发展。

　　坚持发展性评价，尊重人才成长规律

　　“在我工作初期长时间没有高水平论文产出的情况下，学校充分肯定了实验室建设的进展。”今年，南大现代工程与应用科学学院教授聂越峰入选国家重大人才工程，成为学校A层次领军人才。回顾这些年科研历程，聂越峰认为，学校提供的良好科研条件和宽松学术环境，让他坚定信心瞄准颇具挑战的前沿基础问题展开研究。

　　自2015年来到南大后，聂越峰一直致力于建设具有国际领先水平的氧化物分子束外延与原位角分辨光电子能谱实验平台，到2018年首聘期考核时，他只发表了一篇论文。但学校对其工作状态和阶段性成果进行了综合评价，继续给予支持。2019年，他带领团队制备出世界上最薄的钙钛矿氧化物新型二维材料，并取得系列进展，相关成果两度发表于《自然》杂志。

　　聂越峰的经历并非个例。近年来，南大尊重人才成长规律，坚持将发展性评价思想贯穿于考核评价工作全过程，使人才评价激励机制从“指挥棒”升级为“推进器”、从“检测站”转型为“加油站”。学校邀请同行专家共同组成专家组，注重聘期进展，对于早期在搭建实验平台投入较多精力、建设进展较好、论文成果显示度不高的人才给予充分肯定。

　　对于处在不同发展阶段的人才，南大倡导不同的学术成果显示内容，重点评估发展潜力，对青年学者，注重学术活跃性的评价，鼓励他们立足科学前沿攀登科学高峰，逐步形成自身学术特色；对中青年学者，注重个人学术研究系统性的评价，鼓励他们建立和扩大自身学术影响力，着力组织科研团队主持承担国家级重大课题；对于学科带头人，注重评价其学术研究高度，鼓励他们提携培养青年人。

　　“对不同学科领域、不同发展层次的教师而言，科研产出的周期和方式均有所差异，坚持考核与跟踪相结合、评价与发展相一致是南大发展性评价的核心理念。”孙涛介绍，动态性与科学性相结合的评价方式，给“一顶帽子戴到底”的痼疾下了一剂猛药，避免了仰赖头衔、逆向“发展”现象的滋生，而在评价过程中贯彻“引育并举”原则，有力提升了师资队伍整体实力，增强了人才队伍的竞争力与活力。

　　科技立则民族立，科技强则国家强。当前，南大正广泛开展“全面贯彻二十大精神，加快建设‘第一个南大’”大讨论，充分借鉴师生真知灼见，为建设世界一流大学解放思想、集思广益、凝聚力量。中国科学院院士、南大党委书记谭铁牛表示，学校将全面落实习近平总书记建设“第一个南大”的重要指示和重要回信精神，着力发挥教育、科技、人才的基础性、战略性支撑作用，建设一流教学科研队伍，提供战略人才支撑，不断培养战略科学家，打造一流科技领军人才和创新团队，造就一流青年科技人才队伍，为实现中华民族伟大复兴作出新的更大贡献。（本报记者 焦以璇 通讯员 于玥晗）

　　（文图：赵筱尘 巫邓炎）