genevieve（教授）说谈起ai（人工智能），我们很容易就会想到一个关于机器人、“终结者”的世界，在过去100年的科幻小说里，这样的幻想已经有很多了。但现实是，目前来看ai已经无处不在：无论是在网络的算法系统里还是在建筑大楼里。机械化、数字化、自动化正在不断改造我们的世界。
在genevieve（教授）等人的努力之下，从2017年9月开始，澳洲国立大学新建了三所ai研究所。这些项目的目标很明确：建立一个新的工程领域的分支，实现ai技术的安全化，可持续化和规模化。澳洲国立大学将通过实验性质的课程项目来教授ai技术，比如在大堡礁，或者澳洲的矿地来实践控制系统理论。通过集体工作来解决问题，
然而，genevieve（教授）也说，对她来讲，ai（人工智能）技术的应用仍然存在六个比较大的问题，来看看是哪些问题吧。
第一个问题很简单：这个系统的自动化程度有多高呢？比如电梯，我们都知道电梯的上下能自动把我们送到想去的楼层，但是电梯能去为我们买一扎啤酒吗？这个问题涉及到复杂系统的设计，要怎样才能满足所有的需求。
第二个问题是，ai（人工智能）系统有自己的限度吗？是否需要我们的人工干预去防止它出错呢？比如电梯出问题的时候，我们都知道可以通过红色按钮来手动关机重启电梯。但是ai系统，如果有自己的判断或决策能力，他们能决定控制自己来重启吗？人工的介入是否还有必要。
第三个问题是确定性：如果我们想用ai来改造我们的社会，那么我们就不可避免地需要从多个维度来衡量ai技术，从安全性，可靠性，可操作性到伦理问题，公共政策角度和法律问题，这些就不仅仅涉及到技术层面了，这种该如何解决呢？
第四个问题是我们跟这些ai（人工智能）驱动系统的接口是什么，我们怎么向它们传递信息。单单靠说话的话，那ai（人工智能）系统彼此间能不能说话呢？这又意味着什么呢？我们必须想明白。
第五个问题：有没有监测指标告诉我们系统正运行良好？一个成功的系统必须有效率和可靠性。这就需要来判断系统的运行质量。这个问题在自动驾驶中尤为突出，我们需要明白，现在的驾驶程序是正常运作的，还是已经出错了。我们怎么去监测，评价呢？是不是只有人工的方式。
最后一个问题或许最重要：怎样去决定ai（人工智能）系统的设计意图。当人类决定设计一套自动化系统来改造社会和生活方式的时候，我们不可避免会有目标和想象，决定用这套系统来帮助我们完成哪些事。那么该怎样去想象呢？什么样的想象是好的，能被采取成为有价值的标准，这个尤其需要认真思考。
以上的六个问题，每一个都需要我们来严肃对待，因为它们涉及到的不仅仅是技术本身。澳洲国立大学已经有了很多对于这些问题的讨论，但是范围和程度目前还不够，需要更多人参与进来。归根结底，这些问题需要的是对技术，世界和系统的整体性的思考，而我们必须把这些问题想的足够清楚，技术对我们来说才是足够安全，负责任并且可持续的。
如果您喜欢我的文章，可以关注我或对我的文章进行评论、点赞和收藏。
