首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    是时候解决大模型的信任问题了

    以ChatGPT为代表AI大语言模型(LLMs)是一项具有革命性的技术。它不仅可以像之前的人工智能一样进行分类或预测,还可以通过自然语言与人类对话,生成文本、图像、视频、可执行代码等各种形式的内容,这将对人们的生产生活和社会发展产生深远影响。但是人工智能开发和应用阶段的任何错误都可能是灾难性的。[1]现在大语言模型已经面临诸多信任挑战,比如人们越来越无法分辨区分出ChatGPT生成的内容与人类生成的内容;大语言模型存在幻觉问题,会生成错误、具有诱导性的内容,那么人们该如何分辨并信任大语言模型生成的内容;大语言模型还存在偏见、歧视、隐私侵犯、有害言论等多方面伦理风险,继而带来一系列信任危机,甚至遭到业界的抵制和封杀。信任是人工智能发展的一个核心问题,人与技术之间信任关系更是技术发展趋势与人类未来的一个核心问题。[2]DeepMind首席运营官Lila Ibrahim表示,AI大模型是一种变革性技术,但它只有在得到信任的情况下才能充分发挥潜力。

    01

    https通信过程的简单理解

    A. client 连接请求发送到server, server根据配置,发送自己相应的证书给客户端的应用程序(通常是浏览器),这时候的证书中含有的信息包括:证书的概要(明文信息), 证书概要生成的hash值的加密值(这个hash值是被服务端证书对应的私钥加密过的). 证书概要中包含有哪些信息不在这里讨论. B. 客户端收到证书之后,会从证书的概要中读取证书的发行机构,再查找自己的可信任证书列表,看证书的发行机构是否是可以信任的,如果不在可信任证书列表中,那么就会弹出:证书不可信的提示. 这时候需要信任根证书才可以继续. C. 在”证书的发行机构“被信任之后(把发行机构的CA证书添加到可信任列表就可以完成),继续从证书的概要中读取 服务端的证书的 公钥,并利用该公钥解密那个 被加密的hash, 从而获得证书概要的 hash. 然后 客户端的应用程序 还需基于证书概要的明文信息,根据指定的算法计算出实际的hash, 比较这个计算出来的hash 和那个解密出来的hash, 如果两者相等,那么证书验证成功,可以继续进行通信。如果两者不同,那么证书验证失败,通信至此结束. D. 证书验证成功之后,客户端的应用会 通过这个证书和服务端进行一个加密的通信协商(公钥加密,私钥解密 / 私钥加密,公钥解密),这个协商的目标是产生一个对称加密的密钥。 E. 密钥生成之后,那么就会 利用这个对称密钥进行通信了. 那么为什么不用密钥对的方式进行通信呢? 因为密钥对进行通信,那么在C/S 双方都会消耗更多的资源进行加解密操作,这个对通信的效率会有不少的影响,特别是传输大量数据的时候,对效率的影响就很明显,所以https的通信,都是用 密钥对协商一个 对称密钥,然后用对称密钥进行通信过程的加密,而不是一直用密钥对进行加解密.

    02

    AISecOps:打造可信任安全智能

    随着数据的积累,算力的提升,人工智能技术的演进,语音、图像、文本处理等应用场景自动化程度大幅提升,也让我们看到安全能力向着更高水平的自动化演进的曙光。技术平台的自动化、智能化水平,也逐渐成为网络安全攻防双方角力的重点。学术界和工业界纷纷尝试基于人工智能技术的安全分析方法,包括深度学习、机器学习、知识图谱等人工智能技术,已经逐渐应用到恶意软件检测、入侵检测、欺诈检测、行为分析等安全业务和应用中。不过,几轮炒作和试错下来,火热的期盼逐渐归于平静,安全技术发展归于辛苦的爬坡过程,实践上的不尽人意倒逼参与者思考,到底什么样的智能化方案才能够与安全场景契合?安全智能如何才能赢得人的信任,融入到自动化的大潮中去?本文从实践经验出发,总结了AISecOps(智能安全运营)的技术内涵、指标层次及能力分级,进而介绍AISecOps技术发展中的关键趋势——打造可信任的安全智能。

    04

    机器学习理解上最新案例:“以貌取物”与“以貌取书”(附下载)

    【新智元导读】 本文介绍 MIT Technology Review 最近报道了关于机器学习的两项研究成果:让机器学会对人产生“第一印象”、能凭借书的封面判断内容。这两项研究对于增强机器“智能”有很大启示。 机器视觉算法学会“以貌取人” 社会心理学家很早就发现,人们能在一瞬间对一个人作出评价,所依据的仅仅是对方的外表,特别是面容。我们使用这些评价来判定初次见面的人是否值得信任,是否聪明,是支配型还是社交型,是否幽默等等。 这些判断可能正确,也可能不正确,而且一点也不客观,但它们具有一致性。在同一情形下让不同

    06
    领券