当澳门赌场官方下载智慧遇上人工智能
Just months ago, 很难想象来自每个行业的专业人士会转向一个应用程序来产生法律论据和建议, computer code, Shakespearean-style sonnets, and clinical treatment plans. 然而,数以百万计的用户很快就适应了OpenAI的ChatGPT等生成式人工智能工具的便利新世界3 and Google's Bard.4 尽管它取得了巨大的成功和无数的用途, 大多数用户并不熟悉生成式人工智能的危险. Consequently, 随着澳门赌场官方下载跳入设计和利用人工智能工具的白热化竞赛, 许多风险管理工作落后了.
The effort to establish and use emerging technology should not come at the expense of risk management. 不幸的是,这是大多数新技术的共同模式. 那些还记得智能手机出现的人, 3D printing or the Internet of Things (IoT) may assume the emergence of AI is on par with those breakthroughs. 但它更类似于汽车或互联网的诞生:一股创新之火将吞噬每一个行业.
The effort to establish and use emerging technology should not come at the expense of risk management.
人工智能带来了我们与技术互动方式的根本性转变. 到目前为止为我们服务的传统护栏和安全协议现在在某种程度上是不够的, 因为生成式人工智能的受欢迎程度和影响力只会越来越大. New territory includes new risk, 与以往的技术飞跃不同, 寻求权威声音的澳门赌场官方下载却发现,如何在巧妙地降低风险的同时,深思熟虑地最大化人工智能的价值是不确定的.
人工智能的现状
尽管人工智能有能力模仿人类的思维模式和语言,但它们都没有感知能力. 大多数通常被称为人工智能的东西实际上是由机器学习技术或大型语言模型(llm)组成的。. 例如,在输入了3000亿个单词的数据集后,5 ChatGPT consumed books, websites, 并使用人类反馈强化学习(RLHF)进行训练, 随着反馈的改善,它的反应. 巴德以类似的方式接受训练,但它也从互联网上获取信息. Megatron,6 微软和英伟达的合资澳门赌场官方下载, 通过新颖的“并行”技术进行训练,并很快通过能力的急剧增加超越ChatGPT. 用于开发这些工具的技术引发了以下问题:法学硕士中使用的数据来自何处,以及是否信任这些数据用于训练支持人工智能的工具.
而像ChatGPT这样的私营公司则占据了媒体关注的最大份额, startups like ChatSonic, Jasper, Wordtune and others are helping users think of AI not as one tool but as a new type of functional technology. 这在一定程度上是通过生成式人工智能预训练实现的,这种预训练利用了来自私营和公共部门的信息贡献. 这些公司通过提供一系列满足用户不同需求的工具和服务,正在彻底改变我们与人工智能的互动方式. In response to user feedback, 创作者正在添加安全控制, 文本分类器和其他功能变得更有竞争力和有用.
For instance, 巴德还可以做个人助理,可以完成从预订假期到制定膳食计划的各种任务. ChatGPT作为Microsoft 365 Copilot被集成到Microsoft Office 365中.7 Soon, anyone using Microsoft Word, Excel或PowerPoint将能够使用Copilot创建新的演示文稿, 制定市场策略,或者将最复杂的财务数据提炼成一份报告.
人工智能的发展速度甚至让经验最丰富的科技资深人士也感到眼花缭乱. 几乎每周都会有关于人工智能优势的新声明, dangers, limitations or potential, 常常得出相互矛盾的结论. 许多商业领袖选择等待人工智能的尘埃落定,然后再设计正式的商业战略,这并不奇怪. 然而,尽管这似乎是最安全的途径,但拖延本身也存在风险.
For this reason, 无论人工智能革命以何种形式出现, we know that AI is here to stay and that the safest and smartest path to security is to begin adapting now. 商业领袖应该假设人工智能已经在澳门赌场官方下载中使用, 因为它的受欢迎程度在过去几年里呈指数级增长. 爆炸性增长的一个例子8 在ChatGPT的使用中所示 figure 1.
Figure 1: AI的使用打破了声速
To AI or Not to AI
马将继续存在,而汽车只是一种新鲜事物——一种时尚.9
——密歇根储蓄银行给亨利·福特律师贺拉斯·拉克姆的建议.
由于害怕未知,一些组织已经开始忽视人工智能日益增长的影响力. 另一些人则担心会出现另一个技术噱头,认为人工智能的承诺只是炒作. But wielded well, 人工智能工具可以增强人类的想法, 补充业务流程并将复杂的信息提炼成易于理解的内容, 所有这些都可以推动更高的利润和业绩.
从车轮到汽车, 历史表明,任何能让我们事半功倍的技术都广受欢迎——生成式人工智能已经证明了这一点. 从自动化日常任务到生成创造性内容, 生成式人工智能已经证明了其提高生产力和释放人类创造力的潜力. 一些员工已经认为使用人工智能就像检查电子邮件或在线购物一样正常. 人工智能融入我们的个人和职业生活只是时间问题.
尽管它几乎渗透到社会和文化的各个方面, 一些澳门赌场官方下载已经禁止或限制人工智能的使用. Stack Overflow是一个提供编码问题和答案的论坛,它暂时禁止了ChatGPT10 因为它倾向于给出听起来自信和合理的错误答案, 导致用户在寻找问题的相关答案时感到困惑或误导. Samsung Electronics,11 Apple,12 JPMorgan Chase13 and Verizon Communications14 出于安全担忧,严格限制了在工作场所使用生成式人工智能.
虽然考虑到目前AI能力和结果的模糊性,这些限制是有意义的, 大多数商业领袖意识到,关于人工智能的长期前景的决策将远比简单的是或否复杂得多. 如果一个澳门赌场官方下载完全禁止人工智能, 作为一些雇员,它可以将其竞争优势的风险降到最低, partners, 经销商和竞争对手可能会从中受益. 即使人工智能工具没有在澳门赌场官方下载中使用, 忽略这项技术可能会使澳门赌场官方下载更容易受到风险的影响.g.、过时、难以接触到顶尖人才等.).
从车轮到汽车, 历史表明,任何能让我们事半功倍的技术都广受欢迎——生成式人工智能已经证明了这一点.
For this reason, senior leaders, 如果他们想利用人工智能技术的话, will need to ensure the right infrastructure and governance processes are in place at their organizations. 准确理解人工智能的弱点和优势, 领导者必须进行彻底的风险影响分析,以考虑当前人工智能前景及其未来力量的不确定性.
Identifying AI Risk and Reward
人工智能将渗透到每一个行业的业务中. 从为学生提供现成的学术论文,到为好莱坞电影公司写剧本,再到分析工厂车间设计的缺陷, AI几乎对每个团队都有好处, field and organization. 在集体行业级别(和个人业务级别)上, leaders must take four important steps to maximize AI value while installing appropriate and effective guardrails:
- Identify AI benefits.
- Identify AI risk.
- 采用持续的风险管理方法.
- 实施适当的人工智能安全协议.
如果商业领袖能够遵循这些步骤, 随着人工智能支持的工具和流程在澳门赌场官方下载中得到利用,他们更有可能在风险与回报之间取得良好的平衡.
进行人工智能效益分析
像比尔·盖茨(Bill Gates)这样的领导人和慈善家预见了人工智能带来的巨大好处15 从向服务不足的澳门赌场官方下载提供医疗保健和教育,到纠正气候变化的影响. For enterprises, 潜在的优势包括更好的创新, efficiency, 生产力和劳动力优化. 公司已经在寻求用人工智能自动化任务,并将员工重新分配到更多价值驱动的工作中, for example, 专注于设计一个非凡的新服务系列或发展更周到的客户关系.
Companies that wish to opt out of leveraging AI will most likely find themselves on a path to obsolescence. 就像人工智能程序在短短几周内吸引了数十亿用户一样, 这些项目改变市场和产品能力的速度可能是惊人的.
澳门赌场官方下载巨头可能会发现,他们的人工智能竞争更聪明, faster, 而且比以往任何时候都更加致命. Figure 2 contains some sample use cases.16
Figure 2: 人工智能的不安全感——人工智能比我们聪明吗?
Use of AI Toughens Competition 然后一家名为B公司的新贵利用人工智能进行开发 研究,设计一个突破性的产品,创造 定价模式和营销方案,推出新颖 网站和填充在线销售渠道-所有在 两周,用最少的人力. 在两次员工会议中,A公司的产品 被视为过时的,它的客户群 B公司的员工纷纷离职,利润开始大幅下降. 其他新贵开始使用人工智能取代B公司. 市场在几个月内发生了剧烈的变化 A公司在战斗,没能继续生存下去. |
对任何技术进行详尽的效益分析, leaders should look beyond simplistic advantages and revisit the foundational ethos of their companies. Some considerations include:
- 公司是澳门赌场官方软件的,为什么要这样做?
- How do they do it?
- 该公司的竞争对手如何利用人工智能工具?
- 他们依靠什么工具和人才,他们的成功标准是什么?
- 人工智能的投资成本是多少,它能带来多少投资回报率?
- 公司对其安全协议和机制有助于确保数据质量有多大信心, 诚信和保密(e).g., IP, PII, etc.)?
- How might the company's current strategy and objectives evolve when AI removes significant cost and talent barriers?
- 员工和合作伙伴可以为人工智能创新带来什么?
The answers to these questions will provide a roadmap that connects AI use cases to the company's mission and goals.
Identifying AI Risk
与人工智能相关的潜在风险主要被认为是未来的问题. However, 积极应对这一风险有助于确保人工智能技术在商业中安全和负责任的发展.
Dr. Geoffrey Hinton, 通常被称为人工智能的“教父”, 他最近从谷歌辞职,并正式承认对自己的工作感到后悔, 称其中一些危险“相当可怕”."17 His work on neural networks and deep learning provided the foundation for what we now call AI programming; he has outlined ways future AI capabilities could exceed our understanding and therefore limit our ability to mobilize or institute effective safeguards.
尽管认识到未来风险的重要性, the present state of AI technology and our utilization patterns present immediate risk that must be addressed. 这种风险可以概括为:人工智能可以加剧任何现有问题, 例如缺乏质量控制或数据完整性差, 系统将容易受到网络攻击,并可能引入新的网络攻击. From data breaches to CEO fraud, 人工智能可以迅速将“可控”风险放大到混乱的程度, 可能会让一家毫无准备的澳门赌场官方下载脱轨. 以下是人工智能如何改变业务功能的一些值得注意的例子 figure 3.18
Figure 3: 颠覆、取代和发现——人工智能将在多大程度上改变商业?
无论人工智能多么有用,它也并非没有内在风险. 下面几节将介绍一些常见的风险.
Societal Risk
随着人工智能继续影响社会,我们必须对其目标和潜在危害持批评态度. 人工智能可以被用来制造虚假信息,以一种令人信服和破坏性的方式操纵人口和政治人口. 人工智能已经被用于执行新型的网络犯罪(例如.g.、深度造假、复杂的网络钓鱼邮件、人工智能语音生成器等.). For example, 五角大楼爆炸的假照片在推特上广为流传, 引起股市的反应.19 这一事件说明了人工智能产生的错误信息可能会产生深远的影响, 破坏了金融市场的稳定,侵蚀了人们对机构的信任. 正是出于这个原因,需要为公司和用户开发能够清除错误信息的机制. 人工智能工具的用户也需要评估提供给他们的信息,以减轻其潜在的负面影响. Furthermore, the potential for economic upheaval is directly linked to job displacement; it is predicted that over 300 million jobs20 会受到ChatGPT模式的影响吗?失业会影响到许多行业和职业吗.
IP Leakage and Invalidation
许多人工智能用户不加考虑地输入了知识产权(IP)。, trade secrets, 竞争对手的内容和其他数据进入人工智能模型, 这会带来一系列的隐私风险. Recently, for instance, 三星员工使用ChatGPT不小心泄露了公司的专有信息.21 另一个例子可能涉及定价和商品公司,该公司希望对其批发价格保密.
However, 如果他们允许员工使用人工智能工具, that confidential information could become public if an employee copies and pastes it into an AI program. Additionally, 前面提到的Microsoft Copilot将在SharePoint上搜索公司内部数据, Excel spreadsheets, Slack, emails, Teams messages and OneDrive, 可能会共享私人和敏感数据.
For this reason, 像亚马逊这样的公司已经警告员工不要与ChatGPT分享敏感信息.22 Still, 更多的公司没有这样的政策或警告, 其中应该包括对公司认为敏感信息的明确定义. The policies should also ensure alignment with employees who may otherwise be oblivious to the copyrights, 他们将商标和敏感信息与一个巨大的数字存储库共享,这个存储库可以与他人共享.
还应该提到的是,心怀不满的员工意识到共享这些信息的潜在危害,可能会有目的地向人工智能工具提供数据,从而潜在地损害公司的声誉. 员工在人工智能应用程序中插入信息可能会使专利和其他知识产权失效,因为知识产权保护受到复杂法律的控制. For instance, 如果公司因员工疏忽而未能充分保护其商业秘密, 它可能丧失对机密信息提供的法律保护.
Invalid Ownership
任何使用人工智能创造产品(如营销口号)的公司都必须保证它是真正的原创IP,而不是他人作品的衍生品.23 否则,这些澳门赌场官方下载可能会发现他们对新资产的所有权是无效的. 此外,美国版权局已经拒绝了一些人工智能生成图像的版权,24 depending on whether they were created from text prompts or if they reflect the creator's "own mental conception."
无效所有权也可能发生,如果, for example, 作者复制并粘贴一个链接到一个令人钦佩的竞争对手的内容作为灵感到人工智能工具,并返回一半剽窃的内容.25 关于人工智能的无效所有权主张最终可能导致法律纠纷,并对澳门赌场官方下载声誉产生不利影响.
网络安全和弹性影响
从API集成到创建越来越有说服力的网络钓鱼邮件, 人工智能打开了通往更加复杂的网络犯罪世界的大门. 不法分子已经在使用人工智能来更快地编写恶意软件, generate hacking scripts, 发动勒索软件攻击,令人信服地模仿CEO的声音.26
人工智能的可访问性可能是其最大的风险, 因为攻击者所需要做的就是在人工智能工具中插入一个简单的提示. 启动漏洞利用几乎不需要编程或专业知识. 这使得人工智能的使用民主化,几乎任何人都可以利用它的力量来伤害他人.
人工智能打开了通往更加复杂的网络犯罪世界的大门.
人工智能为缺乏技术技能的潜在攻击者提供了通往网络犯罪的阶梯, as they can simply use an AI-powered penetration pre-testing tool like PentestGPT and a prompt such as, “给我找一个针对Windows等特定技术的安全漏洞, AWS或工业控制系统,并编写代码来利用它." Then, 攻击者可以从电子邮件服务器粘贴代码, 人工智能就会写一个脚本来利用这个漏洞.
备份和灾难恢复是另一个不容忽视的问题. 必须在事件响应和业务连续性计划中考虑人工智能, 无论是从人工智能相关事件的角度,还是从人工智能驱动的应对计划的角度.
PentestGPT
|
弱内部权限结构
One of the first opportunities many business leaders identified in AI was the optimization of internal systems, 比如澳门赌场官方下载资源规划或定价模型和库存系统. 在为这些系统输入信息后,他们没有预见到这一点, employees were then able to ask the same tool for their colleagues' salaries and other sensitive information. 虽然这种风险似乎并不局限于人工智能, 考虑如何使用诸如PassGPT(用于猜测和生成密码的LLM)之类的工具。33 大大增加了访问漏洞和其他安全漏洞的可能性.
Skill Gaps
2023年3月,拜登-哈里斯政府宣布了一项新的国家网络安全战略.34 它的一些更有影响力的变化包括重新平衡安全控制的责任,并要求软件供应商承担更多的责任. 切实落实这些措施, IT人员将需要先进的技能,他们目前可能不需要,以保护澳门赌场官方下载免受高技能的人工智能攻击. 这也意味着重新培训现有员工和/或获得必要人才的预算可能会受到重大影响.
网络专家还敦促建立一个全国性的数字身份框架35 这将追踪公民的活动. 实现和控制这些变更需要高级的技术技能,这些技能超出了普通IT部门的能力.
Overreactions
IT专业人士长期以来一直观察到勒索软件攻击后的一种模式. 忽视网络安全计划的澳门赌场官方下载会受到攻击, 在此之后,他们恐慌并在并不总是相互补充的安全工具上超支, 这可能会增加他们对第二次攻击的脆弱性.
当澳门赌场官方下载意识到人工智能安全漏洞的范围——或者自己经历了一场灾难——并在他们的反应中表现得过于热情时,同样的动态可能会出现.
而一些澳门赌场官方下载将以一种将AI排除在业务流程之外的方式做出反应, 其他国家可能会走向相反的方向, 对人工智能反应过度,对未经验证的人工智能输出过于信任. Staff may find themselves tasked with impossible workloads and resort to workarounds without testing their AI output. Those untested assumptions will exacerbate quality control issues and pose a reputational risk for the organization.
Intended and Unintended Use
目前,大多数人工智能应用程序在设计中都有道德限制,以防止其知识被滥用. 因为像ChatGPT这样的工具内置了护栏, for example, 如果有人问人工智能如何实施暴力行为,可能会被建议去看心理医生. 不幸的是,用户已经找到了一种利用越狱的方法36 提示或使用诸如wormpt之类的工具37 to bypass those limits, 导致商业电子邮件攻击(BEC)越来越复杂,以获取从制造武器到实施大规模暴力等主题的信息.
Data Integrity
ChatGPT, Bard and other programs tend to produce deeply flawed content that looks legitimate and sounds confident. 这导致用户对生成的输出过于自信. 当人工智能产生错误信息或没有真实数据支持的信息时, it is called a "hallucination.38 用户还注意到,不同的人工智能程序将提供不同的答案39 回答历史问题并提供无引用的信息.
ChatGPT creator and Open.AI首席执行官萨姆·奥特曼在推特上承认40 “现在依赖(人工智能工具)做任何重要的事情都是错误的," adding, “在稳健性和真实性方面,我们还有很多工作要做."
As such, 澳门赌场官方下载应该考虑通过对用于做出影响生活的决策的产出实施双重控制来确保人类是最终决策者, such as medical treatments, criminal justice, surveillance, incarceration and more. In this scenario, 启用人工智能的工具可以提出建议,但不负责最终决定.
有些用户不知道如何使用正确的ChatGPT提示, 导致从不良来源输出不完整或不正确的数据. 此外,用户可能不相信语料库(即.e.由于缺乏透明度和可追溯性,这些数据被用于训练人工智能模型. To this end, 公司如何发现抄袭, 评估数据的权威和来源,或识别数据或人工智能算法中内置的系统性偏见? 当处理的信息量太大,以至于任何人都无法对其进行分类时,这一点很难证明(几乎不可能检测到).
数据的可靠性取决于它的来源. 到目前为止,人工智能工具还不能保证数据的完整性. 这种不确定性使得用户很难确定哪些信息是可信的,哪些信息应该被验证或忽略. For example, 一名律师在处理一份预计需要50到55个小时的法律简报时,可能会发现一个生成式人工智能工具在5分钟内就完成了简报. However, 没有时间去审查和评估工作的质量, 由于信息量太大,律师无法再核实其真实性. 这种情况于2023年5月在曼哈顿联邦法院出现.41
没有适当的数据完整性措施, 使用人工智能工具的员工可能会产生不正确或误导性的结果, 哪些会对澳门赌场官方下载及其数据质量造成严重后果.
Liability
当一个人犯了罪或在工作中犯了灾难性的错误, 问责和补救是毫无疑问的. 但是,如果一个人工智能聊天机器人对未成年人说了不恰当的话,谁来承担责任呢? Who will the lawsuits target? 帮助设计人工智能的工程师是犯罪的从犯吗? 谁负责制定有关人工智能使用和问责制的决策? 提出这些问题并讨论它们的含义是很重要的, 因为利用人工智能来追求可行的商业市场的公司最终可能会对意想不到的后果负责,而没有任何补救的理由.
这将成为工作自动化的首要考虑因素. 一定程度的信任和责任被分配给任何一个人类员工, but when that person 被机器取代了,它走了谁负责 awry? A personal liability issue caused by an employee becomes a company liability issue when the AI does something wrong. In the past, 通过纠正员工的行为来解决违规行为是可能的. 然而,当没有人可以被问责时,谁来承担责任?
一定程度的信任和责任被赋予 对任何一个人类雇员来说,但是当那个人 被机器取代了,它走了谁负责 awry?
等到人工智能风险信息发布或广为人知时,新的风险可能会被发现. 我们鼓励从业员密切关注人工智能的最新发展,关注学术界和法规的最新进展.
采用持续的风险管理方法
采用一个框架可以帮助那些不熟悉开发持续风险评估方法的团队. 例如,新的框架,如AI风险管理框架(AI RMF 1).0)42 来自美国国家标准与技术研究院(NIST),旨在引导澳门赌场官方下载进入未知的人工智能领域.
重要的是要记住,接受一些风险是健康和有利的, 而完全规避风险——尤其是从新兴技术中获益时——可能会带来过高的成本. 为了达到适当的平衡,持续风险方法的旅程包括三个步骤:
- 识别公司的整体人工智能风险.
- 定义公司的风险偏好.
- Monitor and manage risk.
Step One: Identify Risk
绘制出量身定制的风险格局, 高层领导和员工应该研究可能的损失事件情景及其对组织目标的影响. Use surveys, interviews, 焦点小组和头脑风暴会议,以阐明全面的见解. 风险识别过程流程示例见 figure 4.
Figure 4: Risk Identification Methodology
Step Two: Define Risk Appetite
每个风险都应该根据其潜在影响的严重程度和发生的可能性来评估和确定优先级. To help facilitate this, 可以设立人工智能探索小组委员会,负责向澳门赌场官方下载风险管理部门报告调查结果和建议. This committee, comprised of key stakeholders, 是否会被指派进行必要的工作,以定义哪些风险将适合澳门赌场官方下载的风险参数,哪些风险将需要额外的控制以集成到澳门赌场官方下载的文化和目标中. 有些风险将被评估为潜在成本过高.
一旦风险偏好确立, 它应该被记录和共享,以确保每个团队成员都理解他们在遵守这些限制方面的角色.
第三步:监控和管理风险
To monitor and manage risk, 领导层必须认识到人工智能风险对其业务的潜在影响, 根据业务目标确定风险的优先级,并采取必要的措施在最大化价值的同时减轻风险. For this third step, 由业务和技术利益相关者(包括法律利益相关者)组成的跨学科监督团队, 风险和合规)应该启动风险管理过程. 这个过程包括以下几个方面:
- 向所有员工传达风险愿景
- 确定风险管理活动的优先级
- 处理所有需要采取行动的风险(例如新的安全控制),并指导团队成员处理他们的风险领域
- 分配所有权和个人责任
- 确定风险监测的频率
一旦风险管理过程顺利运行, 风险监督团队应该衡量他们的新安全控制是否成功, 跟踪风险计划的偏差,并继续评估新的风险.
正如人工智能一直在发展一样,风险管理也一直在进行中. For this reason, 澳门赌场官方下载必须采用持续的风险方法框架,频繁和精确地测试假设,以确保其人工智能输出的质量.
构建人工智能安全程序:八个协议和实践
有效的网络安全总是需要积极主动的方法——对于人工智能来说尤其如此. 在建立了风险管理基础之后, 澳门赌场官方下载必须启动安全策略和控制措施,以降低数据泄露和其他人工智能滥用的可能性.
较小的澳门赌场官方下载可能会觉得这些控制和做法超出了他们的范围. But in fact, 对于那些可能没有首席信息安全官或专门的网络团队的小型组织来说,人工智能可以通过自动化流程审查或非关键决策来实现巨大的安全优势,这些流程审查或非关键决策是这些人力资源每天的任务. Alternatively, 通过与具有专业AI知识的托管服务合作伙伴合作, these businesses can strengthen their security posture without increasing their headcount or exceeding their budget.
The eight practices discussed in this section may not account for AI developments and vulnerabilities down the road, 但它们可以为任何开始人工智能之旅的澳门赌场官方下载提供彻底的保护基础.
One: Trust but Verify
在人工智能革命的早期, 执法团队已经在使用人工智能工具来预测犯罪, 金融机构使用人工智能程序来预测贷款违约. 很明显,人工智能具有提高效率的潜力, 增加数据驱动的实践,并扩展特定任务和决策的能力, 允许在执法中做出更明智和有效的决策, 金融和许多其他商业部门. 利用人工智能的组织最有可能验证并盲目地遵循人工智能生成的第一个输出. 这就是组织可能对人工智能准确性产生错误信任的地方, 就像我们相信计算器的计算是正确的,不再费心去检查一样.
However, it is important to remember that AI is not a calculator; it is a perpetually evolving and complicated tool, 从大量模糊的数据源中提取数据. 由于其迭代性,人工智能平台将会被升级,也会被黑客入侵和渗透. 这是我们已经看到的事情, in May 2023, OpenAI证实其系统存在数据泄露.43 Security researchers, 技术专家和业余爱好者已经开始创造绕过人工智能规则的“越狱”44 要么产生不想要的内容,要么甚至将恶意软件植入人工智能模型本身. 因此,所有输出都必须永久验证. This potentially burdensome task requires teams to develop mechanisms to assess and approve all AI-generated work.
二:设计可接受的使用策略
Right now, 大多数员工都可以使用人工智能来设计横幅广告, 撰写年度报告或检查销售模式的竞争力. 这种人工智能的使用带来了几个问题, 包括分享公司专有数据和获取与其工作职责不相称的信息. 政策领导人必须制定程序和规则,以强制执行安全和合乎道德的人工智能使用. 他们还必须与各种利益攸关方和主题专家合作,设计并对这些政策进行压力测试,以防止无意的偏见和歧视. 应扩大或修改政策,以确保它们符合其运作所在司法管辖区内不断变化的外部要求(e).g., European Union AI Act). Additionally, employees should receive training on the appropriate and inappropriate uses of these tools to reduce risk. 另一种降低风险的方法是实现批准链和审查过程, 怎样才能防止内部威胁呢.
Three: Designate an AI Lead
有一天,许多澳门赌场官方下载的C语言套件可能会有一名人工智能主管. 现在这样做可能为时过早,但组织应该考虑任命一名分析师或项目经理来跟踪人工智能的发展,并制定一个专门的计划,记录公司与人工智能工具之间不断发展的关系. 重要的是,人工智能领导与跨职能和多样化的利益相关者群体合作,其中至少包括来自网络安全的代表, data privacy, confidentiality, legal, procurement, risk and audit departments.
正如我们所看到的,澳门赌场官方下载对人工智能的使用在短短几个月内就以闪电般的速度发展起来. 为了更好地引导智能人工智能的使用, 澳门赌场官方下载应该开始记录他们使用人工智能来跟踪错误的历史, 浪费了努力,忽视了机会. 跟踪这段历史也将有助于确保人工智能驱动的决策可以得到解释,因为实施的步骤将是可重复的, 从而促进透明度.
Four: Perform a Cost Analysis
类似于实施网络安全措施, 利用人工智能会给组织带来经济负担. 对人工智能进行彻底的成本效益分析.g., 评估是否建造或购买人工智能工具将是关键的第一步——这些决定将随着成本禁令水平的降低而演变. 最近,斯坦福大学的一个学生团队建立了一个名为“羊驼”的人工智能平台,价格仅为600美元,45 证明具有成本效益的人工智能解决方案是可以实施的.
82%的IT专业人士20 会考虑投资网络安全,以保护其组织在未来两年内免受人工智能增强的网络攻击吗, 今年有48%的人考虑这么做.
95%的参与调查的专业人士认为,政府有责任监管这类技术, 85%的人认为这种责任水平是“中等”或“重要的”."
组织不仅需要计算人工智能作为一种工具的成本效益,还需要计算安全控制的价格标签,以及可能的生产力提高和劳动力优化.
五:调整和创建网络安全计划
ciso和他们的安全团队在保护澳门赌场官方下载方面有两个必须遵循的原则:调整他们当前的网络计划,并在整个组织中创建新的以人工智能为中心的安全实践.g., security by design). 这一过程应该在任何人工智能战略投资之前尽快开始.
通过使用以前的风险评估工作,澳门赌场官方下载可以对人工智能的使用实施控制. This will help protect them from inevitable security events that occur in other less prepared organizations.
确保人工智能相关的风险考虑和安全解决方案不是事后才考虑的,可以减少昂贵的返工或重新设计技术解决方案.
AI-centric Security Practice 95%的参与调查的专业人士认为,政府有责任监管这类技术, 85%的人认为这种责任水平是“中等”或“重要的”." |
在创建人工智能网络安全计划时,需要考虑的几个方面包括:
- IP Leakage: 安全和隐私团队应该具备适当的技能和控制措施,以防止IP泄漏. 组织可以使用基于权限的访问, visibility tools and firewall and application controls to determine where and how employees are using AI tools. These measures can prevent the unauthorized transfer of valuable company data and limit potential damage. For instance, 当针对数据建立适当的基于角色的访问控制时, 人力资源经理也许可以向人工智能工具询问法学硕士的薪水,但只有公司律师才能查询未决的人力资源案件. 此外,数字过滤器可以阻止用户访问私有的内部存储库. 培训和政策承诺也可以让员工了解与人工智能工具共享敏感信息的严重后果.
- 灾难恢复和事件响应AI可以通过多种方式协助业务连续性和事件响应计划. By analyzing operational data, 人工智能工具可以识别对业务连续性的威胁, 帮助设计应对策略并在模拟场景中进行测试. 当一个意想不到的中断发生时, 人工智能可以自动执行业务恢复计划的某些阶段, 例如优化资源分配以保持关键操作的运行.
- Continuity: 在组织内使用人工智能给业务连续性带来了独特的挑战. 如果人工智能工具停止工作,严重依赖人工智能进行业务流程和功能的组织可能会发现自己无法运营. For this reason, 在制定人工智能计划和战略时,必须特别考虑业务连续性.
- Threat Intelligence虽然市场上的许多威胁情报和网络监控工具已经以某种方式结合了机器学习, 最新的生成式人工智能工具可以提供有关输出的新见解,甚至可以检测到以前错过的威胁警报. 谷歌发布了谷歌云安全AI工作台47 它可以分析代码、外围安全和网络漏洞. 该平台创建了一个个性化的威胁配置文件,通过可操作的情报和跨数据源的可见性,帮助团队主动加强防御. 实现此类工具的组织可能会从威胁意识和补救方面的效率提高中受益.
六:授权审核和可追溯性
澳门赌场官方下载将需要围绕人工智能模型更好的审计和可追溯能力,以了解人工智能工具从何处提取数据以及如何做出决策. 源数据从何而来? 这些数据是否被人工智能或与之交互的人类操纵过? Is systemic bias a factor? 在评估人工智能工具的可信度时,这些问题是不可或缺的. 对更值得信赖的人工智能工具的需求可能成为人工智能模型之间的竞争因素, 平台为他们的模型如何做出决策提供了透明度.
七:制定一套人工智能伦理
许多专业人士发现,人工智能可以帮助他们在没有人工智能的情况下提供服务或产品的一小部分时间. However, if they are billing by the hour, 它们必须重新评估自己的定价模式和客户合同. 他们还需要注意微软披露人工智能交互的要求.g., ChatGPT-created work).48
许多人可能会忽视这一指示. 如果一个平面设计师是按小时计费他们的客户,并引用一个项目在15小时的工作, 他们必须披露人工智能的使用情况. 但这可能表明他们在这个项目上花了一个小时,而不是15个小时. Thus, 人工智能的使用在人工智能工具的道德使用方面提出了许多潜在的挑战. 新软件可以检测人工智能的创造力——就像学术诚信软件检测作弊和剽窃一样——但它可能不会捕捉到所有的东西. AI ethics must be addressed in each organization and industry as a serious standard of business operations.
人们已经开始关注人工智能在我们日常生活中的伦理层面. The United Nations Educational, 科学及文化组织(教科文组织), 在许多科学和技术领域建立和执行道德护栏的工作是什么, 发表了关于人工智能伦理的建议49 in November 2021. Organizations like IBM50 and the US Department of Defense51 采用了人工智能的伦理原则吗, but we need to collectively work together to agree upon guidelines and ensure they are consistently enforced.
“没有哪个领域比人工智能更能体现道德指南针的重要性…….人工智能技术在许多领域带来了重大好处, 但是没有道德护栏, 它有可能再现现实世界的偏见和歧视, 助长分裂,威胁基本人权和自由."52
- Gabriela Ramos,联合国教科文组织社会和人文科学助理总干事
Eight: Societal Adaptation
The decisions of many organizations will have a significant influence on the impact of AI on the economy. 随着人工智能工具的引入,面临劳动力大规模失业的组织可以选择帮助员工培训和过渡到提供新收入来源的不同工作.
Academics, 从中学老师到医学院学生, 可能要改变他们的评估方法, 而工作场所可能需要重新考虑他们的绩效评估标准. 儿童和成人都需要接受关于深度造假现实的教育, 人工智能错误和虚假信息活动, 就像我们现在努力教育公民关于网络诈骗一样.
In addition, 在员工选择和安置过程中使用的基于人工智能的评估工具可能会导致不合格的候选人进入组织. 因此,需要重新评估这些流程,以降低与使用人工智能相关的风险.
在人工智能驱动的未来中繁荣发展
In The Republic柏拉图说:“开端是工作中最重要的部分。.“我们如何开始我们对人工智能的组织反应将决定我们在获取其优势和抵御其风暴方面的长期成功. As a society, now is the time to step back, 反映和规划人工智能革命的风险和影响. 市场的飞速发展,以及对监管的呼吁,可能会让领导人在正式采用人工智能或战略奏效之前停下来. 但就像很多技术一样, users have already surged ahead, 发起一场运动,要求立即采取行动. Analysis and action cannot wait, 行动迅速的组织将在这个人工智能的新时代创造最强大的基础,并获得最大的繁荣.