元宇宙将变得超现实。今天，人工智能工具可以创建与用相机拍摄的视频无法区分的合成内容。很快，电子游戏将变得如此逼真，以至于它们看起来像真人电影，而 Zoom 通话将像Matrix一样，在 3D 身临其境的世界中，我们的照片般逼真的合成版本进行交互。当我们对元宇宙的体验感觉真实时，它将成为现实的延伸。本文上架了我在为超现实虚拟世界设计产品时所考虑的问题。
我们的线上和线下世界正在向单一体验融合，高度个性化、身临其境的数字内容将成为现实生活的无缝延伸。随着这种超现实元宇宙的出现，我们必须接受强有力的道德原则，以指导其朝着公平、包容和代表人类所有多样性体验的方向发展。当我们的虚拟身份和物理身份纠缠在一起时，我们必须建立系统，使个人能够控制他们在元宇宙中成为什么样的人的基础。 这些系统必须补充和扩展我们在现实世界中平等、个人主权和自由民主制度的最高理想。
人工智能、区块链和 XR（混合现实）等多种技术的融合为超现实虚拟世界奠定了基础，该虚拟世界有望改变我们工作、娱乐和与他人联系的方式。但元宇宙也充满了技术和社会挑战，必须克服这些挑战才能释放其全部潜力。物理/数字鸿沟向现实/超现实的演变将标志着人类历史上与工业革命不相上下的深刻转变。就像我们为了大城市的混乱和资本效率而放弃了严酷的农业生活一样，我们不可避免地会越来越多地花时间完全沉浸在越来越像家的照片般逼真的虚拟世界中。
我相信参与构建元宇宙的人们有责任批判性地思考技术对我们是谁以及我们如何与社会互动的影响。我的联合创始人和 Metaphysic 的团队分享了这个观点。我们是使用人工智能制作看起来真实的深度个人内容的领导者。这种内容创建格式可以扩展到每个使用互联网的人，很快我们将能够完全基于个人对现实的独特感知以及它所需要的视觉数据来构建超现实世界。我们创立 Metaphysic 是基于对道德领导力的承诺，并且我们理解社区参与技术开发的必要性。为了提高公众对这些问题的认识，我们创建了合成期货，一个将行业领导者、政策制定者、技术专家和内容创建者聚集在一个开放论坛上的组织，以讨论在虚拟世界中等待我们的机遇和挑战。
我们推出了“每个人”，让个人能够控制自己的超现实身份并保护他们的生物特征数据。每个人的核心是区块链和 Web3 基础设施，它们利用人工智能直接从社区成员拥有的数据中创建超现实内容。每个人的使命是重新配置普通人参与互联网的方式以及推动其发展的经济体。这是一种伦理和道德的必要性，因为超现实元宇宙扩展以越来越细化地反映现实世界。这也证明了 web3 系统将个人用户置于在线体验的核心的强大功能。
除了技术创新，我们作为开发人员、用户、政策制定者、公民、邻居和个人所做的选择将对元宇宙是否对人类产生净积极影响产生最大影响。很明显，强大的道德框架是在构建我们想要居住的虚拟世界时做出更好选择的先决条件。但我是第一个承认我们无法预测这个空间将如何演变的人。从这个意义上说，道德领导不仅是要制定行为准则来指导我们的行动，还要营造一个环境，让我们所有人都可以就我们对未来的愿景进行持续的评估和基于价值观的讨论。
道德超现实元宇宙的讨论主题
我已经上架了我们在为超现实虚拟世界构建产品以及与创作者合作制作逼真的 deepfake 内容时讨论的一些主题。这不是一份详尽的清单。我的目标是在那些构建 AI 内容创建工具的人和将居住在我们共同构建的元宇宙中的更广泛的利益相关者基础之间引发讨论。
深度沉浸与新型危害
超现实虚拟世界中的合成内容看起来很真实，参与者可能会相信，即使只是片刻，人工智能创建的内容实际上是用相机在物理现实中拍摄的。该内容可能包括由 AI 使用生物特征数据生成的超现实版你自己，例如你的面部和身体照片或你的声音录音。该内容将由元宇宙平台、游戏公司、内容制作工作室和其他服务提供商创建和托管。如果这些第三方可以在没有你直接身体输入的情况下制作你所做或所说某事的超现实内容，那么显然在个人和社会层面存在潜在的伤害。这些潜在的挑战需要现在就解决——而不是一旦它们成为问题。
通过混合现实设备在虚拟世界中消费的超现实内容将具有深度沉浸感。与DAI着 VR 耳机在类似游戏的虚构环境中导航相比，这种体验会在更深层次上感觉“真实”。我们需要研究这种形式的感官沉浸对我们的心理健康和自我意识的影响。一些例子包括：
- 研究表明，为患有创伤后应激障碍 (PTSD) 的人使用 VR 内容可以产生非常积极的结果。不难想象反事实，在超现实、多感官环境中经历的虐待可能比在不太现实的数字环境中更具创伤性。
- 我们并不完全了解沉浸式体验对年轻人发展思维的影响。VR 内容已经证明它可以成为改善教育和社交体验的强大工具。但这些技术太新了，从长远来看，它们如何影响年轻人的认知和情感发展尚不清楚。
- 另一个问题是 XR 设备和耳机需要在多大程度上收集关于我们的面部、情绪反应和私人空间（如我们的家）的大量个人数据。至关重要的是，我们创建了强大的共识机制，允许个人确定政府和公司对我们的精神状态和物质生活的访问程度。
很明显，在开发超现实内容和相关技术并将其推向市场时，我们需要谨慎行事。在通过共享体验将人们联系起来方面，超现实元宇宙有巨大的好处，特别是在通过创建一个能够实现真实人类情感的虚拟环境来增加同理心时。我相信这些都是弥合我们在 Web2 和社交媒体平台上看到的一些社会分歧、政治党派偏见和意识形态激进化的重要成果。如果一个非常个人化的超现实元宇宙将成为互联网发展的积极一步，那么它的谨慎和合乎道德的发展是至关重要的。
个人机构
作为一个社会，我们颂扬对我们的身体、语言和心理能力行使不受约束的代理权的特权。不幸的是，世界各地的大多数人都经历过对他们个人机构的某种形式的约束，无论是强制性经济制度、独裁者、欺凌者、施虐者、逆行机构、物理墙，还是基于性别、种族或性取向的歧视。对于患有神经分歧症或被诊断患有精神疾病的人来说，情况更加复杂，这可能会被不公正地用作限制他们自主权的理由。人类的残忍或我们自己的身体所带来的挑战永无止境。每个人都以不同的方式经历这些挑战，但我相信大多数人都希望能够更好地控制自己作为个人的身份。我们推出了每个人，因为全球连接的超现实虚拟世界可以将个人置于新互联网的中心，在那里他们可以控制如何使用他们的生物特征数据来创建个性化内容并塑造他们的身份。我们必须设计系统来扩展个体代理和对我们在超现实身份中的自主权，以便我们能够超越我们在物理世界中所经历的限制。
元宇宙被誉为逃避现实的乌托邦，人们可以在其中摆脱物理世界的束缚，成为他们想要的任何东西。那是什么意思？通常，这意味着有机会在一个由大公司设计、拥有和运营的虚拟世界中拥有一个卡通化身，以造福于匿名股东。
这些类型的安排使 Web2 体验非常方便，但它们也混淆了成本和风险。随着技术的发展，第三方可以在未经我们同意的情况下重新创造使我们成为独特个体的东西，随着元宇宙的发展，我们必须要求更多的代理、参与和控制我们自己。
同意
我们在元宇宙中的身份将成为我们的身份，期间。我们需要建立一个系统，允许个人用户就如何使用他们的生物特征数据、他们的超现实肖像出现在哪里以及它的行为方式获得知情同意。单个机构的一个重要特征是授予和撤回同意的能力。我们在物理现实中的所有社会、政治和经济系统最终都建立在我们能够控制自己并同意参与的假设之上。在人工智能可以大规模改变身份的环境中，个人选择至关重要。挑战在于算法系统的机制通常难以辨认。同意取决于没有强制和对条款的知情理解。但人工智能系统可以以微妙的方式操纵用户，并且流程通常深埋在服务条款中。每个人的一个核心特征是为内容创建和参与虚拟世界建立一个道德、透明的经济，个人用户可以在其中授予创作者在将个人身份数据带入他们的创作时可以依赖的知情同意。
Southpark Studio 的 deepfake 讽刺节目 Sassy Justice 嘲笑了许多知名名人和美国政客。学分：南方公园工作室
多样性
随着它成长为物理现实的无缝延伸，虚拟世界的设计必须反映人类体验的无限多样性。这需要开发具有内在包容性和动态性的数据集和模型，足以处理流动的个人身份概念。如今，通过完全许可以合乎道德的方式为复杂模型收集个人身份数据非常困难。因此，同类最佳数据集很小，并且总是会引入系统性地歪曲某些个体群体的算法偏差。随着元宇宙在我们的社会和经济生活中变得越来越重要，限制算法偏见的可能性至关重要。通过对可行的自下而上数据市场的深思熟虑设计和有意识地开发满足各种背景用户的 XR 技术，我们可以为公正的虚拟世界打下坚实的基础。每个人都建立在 Web3 基础设施之上，可以促进小额支付和跟踪个人数据的使用。我们设想，我们未来的虚拟生活将由来自我们社区的人组成的数据集提供支持，这些人在使用他们的数据时也有经济利益。多样性是任何健康生态系统的关键，元宇宙也不例外。我们希望我们对多样性和包容性的承诺将在某种程度上为一个对每个人都开放和欢迎的环境做出贡献。我们设想我们未来的虚拟生活将由来自我们社区的人组成的数据集提供支持，这些人在使用他们的数据时也有经济利益。多样性是任何健康生态系统的关键，元宇宙也不例外。我们希望我们对多样性和包容性的承诺将在某种程度上为一个对每个人都开放和欢迎的环境做出贡献。我们设想我们未来的虚拟生活将由来自我们社区的人组成的数据集提供支持，这些人在使用他们的数据时也有经济利益。多样性是任何健康生态系统的关键，元宇宙也不例外。我们希望我们对多样性和包容性的承诺将在某种程度上为一个对每个人都开放和欢迎的环境做出贡献。
开/关系统
封闭系统和开放系统之间的紧张关系对于如何在超现实虚拟世界中处理个人权利和代理权非常重要。最终，我相信元宇宙将是一个开放和封闭的平台和服务的星座，企业尽最大努力将用户锁定在他们的生态系统中，而 Web3 服务和协议促进了跨体验的可移植性，这些体验将作为更小、独立的产品越来越受欢迎开发人员成熟。随着当今主导我们互联网体验的科技巨头将他们的服务迁移到虚拟世界，他们很可能会在内容审核和减轻用户伤害的工具上投入巨资。另一方面，扩散较小，独立的内容平台可以迎合市场对内容和用户行为没有节制的更宽松的虚拟环境的需求。过去开放虚拟世界的经验告诉我们，这些系统可能会被破坏居住在该空间的其他人的安全和享受的不良行为者所利用。这可以采取多种形式，包括基于性取向、性别认同或种族对用户的性虐待和仇恨。在超现实内容的情况下，由于用户的物理身份和虚拟身份之间的密切联系，此类行为的不利影响被放大了。开发一个封闭的元宇宙，通过技术决策有意限制用户的行为，可以减少不良行为者的负面影响，但这是以限制言论自由和人为限制其创造潜力为代价的。技术人员、内容创建者和用户必须对这些权衡进行公开和坦诚的讨论，以在自由和安全之间找到平衡，以赋予我们在现实世界中所珍视的基本权利。
纪录片《欢迎来到车臣》使用合成换脸来保护受迫害的车臣同性恋者的身份，同时保留他们的人性。信用：欢迎来到车臣
节制和看门人
在 Web2 平台上，如社交网络，上面讨论的许多潜在危害都是通过中心化内容审核来解决的。挑战在于，平台运营商成为对用户行为拥有绝对权威的看门人——从任何个人登录的那一刻起，他们就成为完全由平台运营商管理的系统中的“用户”。这种权力必然是为了优化股东回报，有时会损害个人用户的基本权利。当谈到超现实元宇宙时，我们需要讨论个人和组织之间的关系——无论是公司还是 DAO——控制谁创建内容以及如何分发内容。在一个依赖从现实世界导入的个人用户的生物特征和其他隐私敏感数据的超现实虚拟世界中，风险很高。我们必须深入考虑内容审核政策和其他监管框架如何影响超现实虚拟世界中的用户，并采取积极措施限制这些潜在危害。
将负面的社会结构嵌入到每个人的元宇宙中
超现实元宇宙很可能是我们物理世界的扩展，允许个人用户增强、编辑或发明新功能，并将它们叠加在导入的超现实版本的现实世界之上。虽然通过有效地制作现实世界的上下文副本，将超现实、个性化的元世界扩展到数十亿用户在技术和逻辑上更容易，但我们必须努力避免复制负面的权力结构和制度。我们必须做出有意识的设计决策，试图避免嵌入社会和经济不平等的系统大幅上涨。例如，在设计包含 10k 个虚构人物的每个人的社区集合时，我们发现某些少数群体在我们的训练数据中心化没有得到充分的代表。100k 真实人物的独特面孔。因此，我们必须创造超过 50k 的虚构人物，并编辑到 10k 的选择，以更接近地代表当今世界上的人们。该系列仍然不能完美地反映世界上存在的所有不同人群，尤其是少数族裔。通过“每个人”，我们希望我们可以让来自世界各地的人们参与进来，并以合乎道德的方式许可他们的数据，以便未来的人工智能模型具有足够的代表性。
还有一种风险是，新的阶级系统将出现在虚拟世界中，其中富人和穷人通过他们的化身对虚拟时尚物品和其他虚拟修饰符的访问来分层。毫无疑问，当今最理想的 NFT 价格昂贵，而且普通人完全无法使用。我们对每个人的目标是提供一个公平的竞争环境，任何人都可以免费铸造自己的超现实头像（加上铸造成本）。但我们需要与构建元宇宙的其他组织合作，包括 NFT 创造者和虚拟时装屋，仅举几例，让普通人能够获得理想的虚拟外观、配饰和体验。
标记操纵和超现实的内容
未来，虚拟世界中的超现实内容将与使用相机和 XR 技术拍摄的镜头无法区分，可穿戴设备将使观众沉浸到内容感觉真实的程度。虽然这为创作者创造了令人兴奋的新机会来取悦观众，但也有可能被坏演员用来欺骗、误导或欺诈。这就提出了关于披露和标记超现实和操纵内容的必要性以及在什么情况下需要披露的重要问题。这种张力的一个很好的例子是虚拟世界中政治家和政治信息的超现实表现。知情的选民需要高质量和准确的信息，民主才能按预期发挥作用。这是否意味着应该要求政客们忠实地反映他们在虚拟世界中的真实身份和行为，并在他们偏离这一基线时进行披露？如果是这样，谁来决定以及如何执行这些政策？这些问题没有简单的答案，但重要的是，在构建由超现实内容驱动的互联网时，它们处于我们考虑的最前沿。
引起轰动的 DeepTomCruise 使用好莱坞开头和标签的合成去老化来明确内容不是真实的，但观众仍然偶尔会相信它是真正的演员。
建立道德基础
上面上架的道德张力并不是一个详尽的或规定性的清单。为超现实虚拟世界创建一个伦理框架并不是将某些事物标记为好而另一些事物标记为邪恶的练习。相反，它是关于新社会契约支柱的公开讨论，它将塑造我们在虚拟公共空间中的行为。正如元宇宙将开启我们无法想象的新创意可能性一样，它也将创造我们当前框架无法处理的新道德困境。虽然我们无法预测元宇宙的所有演变方式，但我们现在就开始探索其伦理影响至关重要，以便我们在出现新问题时做好准备。带着这些想法，我们设计了每个人来探索元宇宙中的个人身份问题，我们致力于在未来进行公开对话。通过加入每个人的社区，你将成为一项全球实验的利益相关者，该实验试图了解在日益虚拟的现实中作为人类意味着什么。只有通过共同努力，我们才能建立一个超现实的元世界，体现我们最高的社会理想和人类创造力的最佳元素，同时将我们的集体潜力提升到新的高度。
内容搜集自网络，整理者：BTCover，如若侵权请联系站长，会尽快删除。
