新兴技术的潜力有时会让人觉得势不可挡。技术发展的速度意味着社会总是处在新出现问题的风口浪尖上，通常在我们处理当前问题之前。就像社会开始看到频繁和严重的数据泄露的后果，并处理大规模数据收集带来的现有隐私问题一样，想想神经技术可以收集和使用大脑数据的方式。这是在真正解决如何处理网络欺凌、仇恨犯罪或产生错误和虚假信息之前。人工智能(AI)将所有这些挑战提升到了一个新的水平。

　　我们的目标必须是以新的方式思考挑战，共同确定解决方案，并以改善人类的方式利用技术的潜力。

　　军方使用“信息环境”一词来描述人们如何获取信息和理解他们的世界。这为社会如何从三个方面理解和应对人工智能的挑战提供了一个有用的框架:

　　内容——信息本身。

　　基础设施——创造、分发和使用的平台和系统。

　　认知弹性——与信息和社会关系的接触它被嵌入的文本。

　　对内容、基础设施和人类认知的思考，有助于更广泛地理解技术的影响，更重要的是，有助于制定解决方案。

　　科技公司、大学、非营利组织和民间团体等不同领域都在发生很多事情。但其中一些努力仍需要联系起来，以支持政策制定，并协同制定解决方案，确保信息、基础设施和平台的完整性，并支持认知和人类的复原力。

　　在人工智能出现之前，有很多解决数字内容来源问题的方法。自2021年以来，Adobe及其合作伙伴(包括微软、Arm、英特尔TruePic和BBC)一直在研究一种标准方法，以验证照片或视频的捕获方式，并记录任何后续编辑。有内容真实性倡议和内容来源和真实性联盟。

　　谷歌DeepMind最近推出了一款名为SynthID的实验性人工智能水印工具。对人工智能生成的图像和视频进行水印，或者反过来(那些具有可验证来源的图像和视频)，通常被视为一种潜在的解决方案。SynthID使用一个神经网络嵌入一个人眼看不见的模式，而另一个神经网络可以看到这个模式，并可能帮助人们判断人工智能生成的内容何时被当作真实的，或者帮助保护版权。

　　有关澳大利亚就Voice提案进行公投的错误和虚假信息凸显了对社交媒体平台进行更好监管的必要性。

　　很高兴看到数字世界容易受到虚假信息和干扰国家议程的影响，因为迄今为止全球的努力都没有奏效。尽管对内容节制和审查的担忧是不可避免的——这是任何关于数字平台的讨论所固有的——但拟议的《2023年打击错误信息和虚假信息法案》试图灵活地解决平台流程的一些缺点，尽管这些改革实际上相当温和。

　　澳大利亚有强烈的国家愿望，希望到2030年成为最安全的网络国家。在政府即将出台的网络安全战略之前，有迹象表明，实现这一愿望所需的一些系统正在到位，尽管细节和实施将至关重要。措施包括大量的监管努力，包括ACCC数字平台服务调查，安全办公室试图减少在线危害，澳大利亚网络安全中心与行业合作，网络和基础设施安全中心与业主和运营商合作。

　　还需要更多。有关澳大利亚就Voice提案进行公投的错误和虚假信息凸显了对社交媒体平台进行更好监管的必要性。政府和社会需要更好地了解人工智能是如何以及将如何继续对信息环境产生影响的，同时确保跨部门和边界的合适人员和组织聚集在一起寻找解决方案。

　　全球人工智能峰会、蓝图和标准制定论坛都非常必要。但至关重要的是，看到来自各行各业、智库、政府和学术界以及人权研究人员的领先思想家在人工智能的创造、使用和监管，以及大数据、隐私、在线危害和网络安全方面的各种参与。一些人认为，大规模的改革仍有必要，而且似乎不乏建议。但是，将复杂的政策变化与反映澳大利亚人民观点和期望的清晰叙述联系起来，是一项完全不同的挑战。