关注领域:来自先进人工智能的潜在风险

卡塔尔世界杯小组赛最新赛程出炉Open Philanthropy推荐的捐款总额约为1,840,000美元超过五年的博士奖学金支持11名有前途的机器学习研究人员，他们共同代表了2022届的开放菲尔AI奖学金．这是一个估计，因为未来一年的学费和货币汇率的不确定性。这个数字可能会随着成本的最终确定而更新。

这些研究员之所以入选，是因为他们的学术成就、技术知识、缜密的推理，以及对将人工智能的长期、大规模影响作为其研究中心的兴趣。这是我们关注的领域卡塔尔世界杯赛程时间表．

我们相信，人工智能的进步最终可能导致人类文明的变革，其规模堪比农业或工业革命;虽然我们认为这很可能会导致人类福祉的显著改善，我们也看到了重大风险．Open Phil AI Fellows的任务很广泛，包括思考哪种研究可能最有价值，与志同道合的学生和教授分享想法，形成一个社区，并最终以他们认为最有可能提高AI进步成果的方式行事。

Open Phil AI奖学金的目的是支持一小群有前途的研究人员，并培养一个具有信任、辩论、兴奋和智力卓越的文化的社区。

名字旁边有星号(*)的人也是Vitalik Buterin博士后研究员-获得生命未来研究所(FLI)资助的人士。卡塔尔世界杯小组赛最新赛程出炉Open Philanthropy和FLI为这些研究员平均分配了资金。

2022届开放菲尔AI研究员

亚当Gleave

Adam是加州大学伯克利分校计算机科学专业的五年级博士研究生。他的研究重点是深度RL的非分布鲁棒性，特别强调价值学习和多智能体对抗鲁棒性。为了验证习得的奖励函数，亚当开发了史诗距离而且可解释性的方法．亚当证明了敌对的政策在多智能体环境中——尽管行为看似随机，但策略会导致对手失败——目前正在研究狭义超人策略是否有类似的失败模式。欲了解更多信息，请参阅他的文章网站．

卡西迪前者

Cassidy是加州大学伯克利分校计算机科学专业的博士生，导师是Stuart Russell和Anca Dragan。他对开发可扩展和健壮的校准方法很感兴趣人工智能具有人类价值的系统。他目前的工作集中在奖励学习中的不确定性建模，人类的缩放方法人工智能交互，以及对不可预见攻击的对抗鲁棒性。在获得博士学位之前，Cassidy获得了马里兰大学帕克分校的计算机科学和数学学士学位。欲了解更多信息，请参阅他的文章网站．

辛西娅·陈*

辛西娅是一个即将在苏黎世联邦理工学院的博士生，由安德烈亚斯教授克劳斯．她对建筑很感兴趣人工智能与人类偏好一致的系统，特别是在错误代价高昂和人类信号稀少的情况下。她渴望发展人工智能从长远来看可以改善世界的解决方案。在ETH之前，Cynthia在人类兼容中心实习人工智能毕业于加州大学伯克利分校，并以优异成绩毕业于香港大学。你可以在她的网站上找到更多关于辛西娅的研究网站．

丹尼尔Kunin

丹尼尔是斯坦福大学计算与数学工程研究所的博士生，由Surya Ganguli和Daniel Yamins共同担任顾问。他的研究使用了物理学的工具，为经过随机梯度下降训练的神经网络的学习动力学建立了理论模型。到目前为止，他的研究集中在正则化对损失景观几何的影响，识别学习动力学中的对称性和守恒定律，以及如何使用热力学的思想来理解SGD中随机的影响。他目前的研究重点是将SGD的动态与影响训练网络的泛化和鲁棒性的内隐偏差联系起来。要了解更多关于他的研究，请访问他的网站谷歌学者页面．

埃里克·詹纳*

Erik是加州大学伯克利分校一名即将入学的计算机科学博士。他对发展校准技术很感兴趣人工智能人类的价值可以扩展到任意强大的未来人工智能系统。Erik此前曾在人类兼容中心从事奖励学习方面的工作人工智能，侧重于奖励模型的可解释性和对奖励功能结构的更好的理论理解。他于2020年获得海德堡大学物理学学士学位，目前正在阿姆斯特丹大学完成人工智能硕士学位。有关他的研究的更多信息，见他的网站．

约翰内斯Treutlein *

Johannes是加州大学伯克利分校计算机科学专业的博士生。他对实证和理论研究有广泛的兴趣，以确保人工智能随着功能的增强，系统仍然安全可靠。他目前的工作是研究机器学习模型中的学习优化，并开发其目标在分布之外稳健地一般化的模型。此前，Johannes在多伦多大学、牛津大学和柏林工业大学学习计算机科学和数学。欲了解更多信息，请访问他的网站网站．

Lauro Langosco

劳罗是剑桥大学大卫·克鲁格的博士生。他的主要研究兴趣是人工智能校准:构建能够按照操作者的意愿行事的智能系统的问题。他还研究了深度学习的科学和理论，即研究DL系统如何概括和扩展。此前，Lauro曾在伯克利人类兼容AI中心实习，并在苏黎世联邦理工学院学习数学。

卡里尼Andriushchenko

Maksym是École Polytechnique Fédérale de Lausanne (EPFL)的计算机科学博士生，由Nicolas Flammarion指导。他的研究重点是使机器学习算法具有对抗鲁棒性并提高其可靠性。他还对深入学习中的泛化，包括分布平移下的泛化，有更好的理解感兴趣。他与人合作开发了RobustBench，这是一个正在进行的标准化鲁棒性基准测试，他对鲁棒图像指纹模型的研究已被用于内容真实性的目的。在EPFL之前，他在Tübingen大学与Matthias Hein一起研究对抗鲁棒性。要了解更多关于他的研究，请访问他的网站学者页面．

钱黄

钱是斯坦福大学计算机科学专业的一年级博士生，导师是Jure Leskovec和Percy Liang。她对将机器推理与人类推理结合起来非常感兴趣，特别是对新知识的合理性、可解释性和可扩展性。目前，她对将一般推理能力从领域知识中分离出来感到兴奋，特别是通过使用图神经网络和基础模型。钱在康奈尔大学获得了计算机科学与数学学士学位。欲了解更多信息，请参阅她网站．

乌斯曼安华*

乌斯曼是剑桥大学的博士生，他的导师是大卫·克鲁格。主要研究方向为强化学习、深度学习和合作人工智能．乌斯曼的目标人工智能研究是为了开发有用的、多功能的、人性化的产品人工智能这些系统可以向人类学习，也可以互相学习。他的研究重点是确定使开发人类协同的困难因素人工智能系统和开发技术围绕这些因素工作。他特别感兴趣的是探索人类丰富的喜好和欲望如何适应地传达给大脑人工智能代理，特别是在复杂的场景中，如多代理规划和时变偏好，最终目标是扩大任务的范围人工智能代理可以承担和制造人工智能特工更团结，更值得信赖。有关出版物和其他细节，请访问https://uzman-anwar.github.io

Zhijing金*

Zhijing是德国马克斯普朗克研究所和瑞士ETH Zürich计算机科学专业的博士生。她由Bernhard Schoelkopf教授、Rada Mihalcea教授、Mrinmaya Sachan教授和Ryan Cotterell教授共同指导。她对使自然语言处理(NLP)系统更好地为人文学科服务非常感兴趣。具体来说，她使用因果推理来提高语言模型的鲁棒性和可解释性(作为“内部对齐”目标的一部分)，并使语言模型与人类价值观对齐(作为“外部对齐”目标的一部分)。此前，她在香港大学获得学士学位，期间曾在麻省理工学院和国立台湾大学进行访问。她还曾与张政教授一起在亚马逊AI做研究实习生。欲了解更多信息，请参阅她网站．