如影随形

AGI到2030年初出现，有四个主要风险激发人们的关

发布时间：2025-04-08 09:42编辑：365bet体育注册浏览（83）

最近，Google的DeepMind Labs发布了一份145页的人工智能安全报告。该报告指出，可以在2030年左右发布具有人类智能水平的通用人工智能（AGI），其风险也可能包括强烈的情况，例如“永久破坏人”。 AGI是指具有智慧和对人类水平的AI系统，该系统可以完成人们可以做的任何智力工作，并且适合各个领域，并且可能具有某种形式的意识或自我意识。当前的AI应用程序（例如语音识别和图像识别）只能在单个领域中发挥作用，并且是虚弱的人工智能。像人类一样，AGI可以将知识和技能应用于许多领域，例如医学诊断，科学研究和艺术品。该报告解释了AGI可能造成的四个主要风险。首先是虐待的风险，即，恶意演员可以使用AGI技术来克雷吃大规模破坏或发动网络攻击的武器。第二个是误导性的风险。如果AGI系统的目标和价值与人类不一致，则可能对目标造成损害。第三个是错误的风险。 AGI操作期间发生的技术故障或错误的决定可能会导致不可预测的后果。最后，有一些结构性风险，AGI发展可以改变社会结构，即经济和政治，导致现有连词的失衡。为了防止AGI滥用，该报告提出了几种方法，例如在培训阶段使用“监督监督”方法以允许AI处理AI；通过“确认培训”，有意为AI造成棘手的问题。在部署阶段，AGI可以被视为“犯罪潜力”，其所有操作均经过审计的多层审计，同时消除了危险的AGI功能。该报告还强调了还原通过设计安全机制，透明的研究和行业合作，滥用AGI造成的损害。实际上，该行业长期以来讨论了对人们的AGI威胁。近年来，随着人工智能技术的快速发展，AI的应用变化了领域，而AGI的人们的注意力也在不断上升。 Openai首席执行官曾经宣布，Sam Altman于2025年拥有该公司即将推出的技术产品，AGI是其中之一。它旨在使计算机能够理解和理解人类思维，并为许多行业带来创新的势头。但是，这种强大的能力也伴随着风险，这在所有条件下都引起了对AGI开发的关注。特斯拉和SpaceX创始人埃隆·马斯克（Elon Musk）反复警告人工智能的潜在威胁，认为人工智能可能是人类文明面临的最大风险之一，其发展速度可能更多比人类的期望。如果缺乏有效的管理和控制，则后果是无法想象的。当SinReview，在技术行业发展的趋势时，一些财务分析师还教导说，即使AGI的出现可以带来重大的商业和社会变革，因为企业已经投资于研发，他们也应该完全考虑其潜在风险，否则它可能能够控制全球危机。