原则上,我们试图找到最好的机会比较多的可能性。然而,很多比较我们想取决于非常有争议的,不确定的问题。
例如:
- 有些人认为动物,如鸡相比基本上没有道德意义的人类;其他人认为他们应该考虑同等重要,或者至少1 - 10%同样重要。如果你接受后者的观点,农场动物福利看起来像一个非常突出的原因,潜在的支配其他选项:每年数十亿的鸡非常残忍地对待在工厂化农场,和我们估计公司活动可以从笼子里闲置超过200只母鸡约束每一美元。但是如果你接受前视图中,这项工作可以说是一个可怜的金钱的使用。
- 一些人认为我们大部分的影响会通过影响长远发展。如果这是真的,这可能是一个参数,减少全球灾难性的风险压倒一切的重要性,或者加速科学研究确实,或者通过提高整体运作的社会政策所做的事。鉴于难做出预测的长期未来,很难比较在这些类别的任何工作证据的支持干预服务全球贫困。
- 我们有额外的不确定性我们应该如何解决这些不确定性。我们可以尝试量化使用概率的不确定性(例如:“有10%的机会,我应该价值鸡10%人类”一样),和到达的一种期望值计算的许多广泛的方法。但大多数参数的计算和非接地将会非常糟糕健壮的,目前尚不清楚如何权衡计算属性。此外,这样的计算将会遇到的挑战规范的不确定性(道德)的不确定性,很清楚如何应对这样的挑战。
在这篇文章中,我将使用“世界观”指的是一组高度争议(也许无法评估)信仰支持一种给予。一个世界观可能暗示证据的支持慈善机构提供全球贫困更有价值的比给上面讨论的类型;另一个可能暗示农场动物福利是;另一个可能暗示全球灾难性的风险减少是多少。给定世界观代表的组合视图,有时很难区分,这样的世界观之间的这种不确定性是由经验的不确定性(事实)的不确定性,规范的不确定性(道德)的不确定性,不确定性和方法论(例如如何处理不确定性,不确定性在上述第三点)。一些更详细描述的示例世界观的一个脚注。[1]有人可能会完全接受总功利主义,加上天文浪费的观点,以及一些其他的前提,认为全球灾难性风险工作期望值远远高于其他原因。有人可能会接受总功利主义和道德价值的想法…继续阅读
我们面临的挑战是,我们考虑多种不同的世界观可信。我们多给机会,一些会考虑吸引优秀和其他人会考虑相对低价值。我们必须决定如何权衡不同的世界观,当我们试图做尽可能多的好与有限的资源。
当决定世界观之间,有一个案例,只是我们猜测[2]具体来说,我们最好的猜测的世界观或组合世界观最值得操作以完成尽可能多的好。这个不一定是一样的世界观是最有可能代表一组最大限度正确的信仰,价值观和方法;…继续阅读并坚持它。如果我们这样做,我们将只关注动物福利,或全球灾难性的风险,或全球卫生和发展,或在另一个类别的,没有注意其他人。然而,这不是我们目前采取的方法。
相反,我们练习世界观多样化:把重要的资源每一个我们发现高度可信的世界观。我们认为有可能是一个变革的资助者的许多不同的原因,我们——从今天开始,不想错过这个机会把注意力集中在一个迅速递减。
这篇文章概述了我们实践世界观多元化的原因。简而言之:
- 我将首先讨论此案对世界观的多样化。当寻求最大化预期积极的影响,而不担心做不好的“风险”,有一种情况下,我们就应该把所有可用资源背后的世界观,我们揣测思想支持。
- 我将练习世界观多样化,然后列出几个原因在(a)的情况下我们有很高的不确定性和找到多个世界观高度可信的;(b)会有强烈的收益递减如果我们把所有资源任何一个世界观。
- 首先,下一组基本假设包括(a)和(b)以上,世界观多样化期望值最大化。
- 第二,如果我们想象不同的世界观代表不同的基本价值观(不仅仅是不同的意见,这样最终会是“正确的”如果我们有完美的信息),持有不同的价值观,人试图达成协议背后的共同原则无知之幕(解释更多的下面),似乎,他们将同意某种形式的世界观多样化作为理想的实践对于那些拥有巨大资源。
- 练习世界观多样化意味着开发人员工作能力在许多原因。这提供了选项值(如果我们能够调整揣测世界观改变随着时间的推移)。也增加我们长期有大影响的几率一般对话在慈善事业,因为我们可以提供切实有用的信息来更大的捐助者。
- 有其他一些实用的好处在一个广泛的多种原因,包括机会使用所学到的经验在一个领域改进我们的工作在另一个;提供一个精确的面向公众的照片我们的价值观;和增加的程度,从长期来看,我们预期影响匹配我们的实际影响。(后者可以有利于自己的,和其他人的,评估我们的能力做的。)
- 最后,我将简要讨论的关键条件世界观多样化似乎是一个好主意,并给出一些粗糙的笔记对我们目前在实践中实现它。
注意世界观多元化背后只是一个广泛的术语的大量资源投入多个世界观——这并不意味着任何特定的“世界观之间平均分配资源。”这篇文章讨论了世界观多样化的好处,也没说(或在多大程度上)应该如何分配资源之间的世界观。在未来,我们希望把更多的精力投入到反思——讨论——特定的世界观我们找到最引人注目和如何衡量它们彼此。
还要注意,这篇文章的重点是决定如何分配资源不同的已确定原因,不是的2022年世界杯足球比赛赛程表识别有前途的事业。
案的世界观多样化
似乎如果我们有完美的信息和完美的洞察自己的价值观,我们会看到一些世界观多比其他人更好的指导给了。对于一个比较明显的例子,请考虑GiveWell最大的慈善机构vs。我们的工作到目前为止在农场动物福利:
- GiveWell估计其最高慈善(对抗疟疾基金会)可以防止损失的每100美元一年的生活。
- 我们已经估计企业活动可以从笼子里闲置超过200只母鸡约束每一美元。如果我们大致想象每个母鸡收益改善生活两年的25%,这相当于一个hen-life-year每花了0.01美元。
- 如果你鸡所同样重视人类的寿命,这意味着企业活动大约10000倍的好每美元作为慈善机构。如果你相信鸡不受道德相关的方式,这意味着企业活动做的不好。[3](贝叶斯的调整应该减弱这种差异在某种程度上,尽管目前尚不清楚有多少,如果你相信,像我一样,估计都是相当明智的,虽然远离精确或合理可靠。我将把这考虑到一边。)
- 当然,人们可以鸡虽然重视人类价值更多的。如果一个人类10 - 100 x的值,这仍然意味着企业活动是一个更好的利用基金(100 - 1000 x)。如果一个值人类极多,这仍然意味着大型慈善机构是一个更好的利用资金。似乎不太可能比是精确的,狭窄的范围这两个使用所需的资金,也有类似的成本效益。
我认为考虑广泛适用于其他比较相似,如减少全球灾难性的风险vs。改善政策,尽管量化这些原因更令人担忧。
有人可能会因此想象有一些“最佳世界观”(如果我们有完善的信息),可以指导我们做更多的比其他的好。如果这是正确的,或许有人会说,我们应该集中力量来对付“最佳猜测的世界观”[4]具体来说,我们最好的猜测,世界观是最值得操作以完成尽可能多的好。这个不一定是一样的世界观是最有可能代表一组最大限度正确的信仰,价值观和方法;它可能是一个…继续阅读为了最大化好我们做多少期望值条款。例如,如果我们认为一个人的世界观似乎10000 x比其他人,即使是1 - 10%的机会仍将意味着我们可以做更多的好通过专注于世界观。
这个观点假定我们是“风险中性”:我们的目标是只的期望值最大化我们做了多少好事。也就是说,它假定我们熟悉的“风险”打错了电话,把我们所有的资源变成错误的世界观,并最终完成很少。风险中性到这样一个程度似乎常常奇怪的人用来投资比喻:投资者很少觉得翻的可能性的钱完全可以弥补失去一切的可能性,他们通常使用多样化减少方差他们的回报(他们不只是专注于预期收益)。然而,我们没有理由害怕失败,以营利为目的的投资者一样。没有特别巨大后果”未能做什么好,”作为破产有,所以这是一个风险我们乐意回答只要是平衡的可能性做了大量的好。开放的慈卡塔尔世界杯小组赛最新赛程出炉善项目旨在是风险中性的方式提出,尽管有一些其他原因(下面讨论)把所有的鸡蛋放在一个篮子里,可能是有问题的。
世界观多样化
我觉得世界观多样化很大程度上取决于两个关键因素:
强烈的不确定性的世界观是最合理的。我们认识到,任何给定的世界观可能看起来错误的如果我们有完美的信息——但除此之外,我们认为,任何给定的世界观可能误入歧途如果我们理性更能反映的信息是可用的。换句话说,我们觉得有多个世界观,每个可能符合“我们应该考虑最好的世界观上把我们给的世界观概念上最大化我们的期望值,如果我们认为更聪明。2022世界杯非洲赛程表“我们可以想象有一天发现这些世界观best-seeming。我们觉得这部分是因为我们看到聪明,人意识到合理的参数为每个世界观和仍然拒绝。
一些人承认他们揣测世界观可能是错的,但仍然认为这显然是最好的押注在期望值上。例如,一些人认为专注于遥远的未来是最好的,即使有一个> 99%几率的论点赞成这样做是错误的,因为关注远未来的价值是如此之大,如果参数是有效的。事实上,这些人似乎留下没有现实的改变他们的思想在这方面的可能性。我们有不同类型的不确定性,我发现很难正式模型,但这是可能的集群的思考。所有事情考虑——包括我们的不确定性建模的基本方法期望值,我倾向于认为不同的合理的世界观是大致相同的期望值。
收益递减把资源在任何给定的世界观。当看一个集中区域等农场动物福利或潜在的风险从先进的人工智能,在我看来,在每年数千万美元的范围(在未来十年左右)可以基金的最佳机会,帮助相关领域和学科的发展,大大提高的可能性导致拉其他的资金来源(包括私人捐助者和政府)。给多更多的比这将达到收益递减。因为这样的原因,我可能大致量化我的直觉说,(在相关保证金)给予10倍一样只会完成约2倍。(有其他原因,这个动态不适用几乎一样;例如,我们看不出太多的收益递减时支持现金转移全球贫穷。)
记住这两个因素,有很多理由世界观多样化。
期望值
当占强不确定性和收益递减,世界观多样化甚至可以当一个期望值最大化的世界观看起来比别人期望“更好”。把这个的方法之一是,如果我们选择10世界观,和一个5 x和另外九名一样好,我们所有的资源投资于人——在相关的边缘,由于“收益递减”点——不如十蔓延。[5]具体来说,说X的好我们可以完成通过投资$ Y的九个世界观以外的“最好”,想象$ Y是收益递减点周围十几倍的投资只完成2 X一样好。这就意味着…继续阅读
我认为这个动态增强的事实有太多我们不知道,和任何给定的世界观可能是更好或更糟比似乎微妙的和意外的原因,包括那些有关主要材料的影响。[6]例如,假设我们回到上面的假设(见以前的脚注)但也想象,我们估计世界观的价值包括一些错误,这样一个未知的一个十有1000 x值和另一个未知的有0值相关的边缘。…继续阅读
我不清楚有多少意义上认为在这些条款。我们不确定性世界观的一部分是我们的道德价值观:不确定性程度,不同的世界观可能是不适应的,没有有意义的方式来比较它们之间“完成”好。提出了一些明确的框架来处理不确定性不相称的道德系统之间,[7]例如,请参见迈克阿斯克尔2014年。但是我们有重大的不确定性有多大用处这些框架以及如何使用它们。
注意,参数在本节只适用于世界观相当类似的总体期望值。如果一个人认为,一个特定的世界观指向给予机会,数量级比别人好,这可能超过收益递减的问题。
“无知之幕”的道德
另一个世界观来源于多元化,在某种意义上,相反的方法。而不是思考不同的世界观不同的“猜测”如何做最优秀的,这样每个人都有一个期望值,他们最终在同一条件相比,假定不同的世界观代表不同的人的观点[8]我用“人”这个词为简单起见,虽然理论上可以想象扩展分析在这一节中动物的价值体系等。与不同,不可通约的价值观和框架。例如,它可能是一些人的情况下和他们一样深深关于动物关心人,当别人不珍惜动物福利,那再多的学习或反射会改变这些。世界观之间进行选择时,我们选择哪些人最识别和同情,我们有很强的不确定性。
思考的一种方式的伦理价值观不同的人应该如何相互作用是考虑的一种无知之幕:想象协议这样的人会来他们应该如何使用资源,如果他们谈判之前他们每个人单独会知道多少资源可用。[9]我知道这个设置有一些差异与罗尔斯提出的著名的“无知之幕”,但仍认为这是用于输送直觉。一个这样的协议可能是:“如果一个人最终获得远远比其他人更多的资源,那人应该把一些资源的原因最重要的是我们每个人-一些收益递减点,而不是把所有的资源到那个人的最喜欢的事业。“每个人可能接受(基于收益递减模型以上),如果他们最终得到的远远比其他人更多的资源,本协议最终会使它们变得更糟,但只有50%;而如果别人最终掌握更多资源,本协议最终会使他们更好的了。
这只是一个粗略的轮廓看起来像一个吸引人的原则。更多细节可以被添加,如“巨大资源的人应该投资更多的地区,在那里他们可以变得更彻底,如在被忽视的地区。”
我们看到很多吸引人的世界观,背后似乎有相对较少的资源,我们有机会根据多个这样的世界观产生变革性的影响。利用这个机会是道德的事情,它反映了一个协议,我们会在“无知之幕”,这意味着我们可以大大提高世界根据多个不同的值集,我们之间不确定的感觉。我认为考虑并将重量基于“无知的面纱”这样的道德问题是一个普遍好启发式结果non-consequentialists相似,尤其是当一个人没有一个坚实的框架比较“预期好完成”在不同的选项。
能力建设和选项值
去年,我们描述我们的能力建设的过程:
我们的目标,我们的努力,围绕()选择重点领域;2022世界杯欧洲预选赛比分(b)雇佣人来领导我们的工作在这些领域(见我们最近更新);(c)最近,工作集中与新员工试用员工在他们早期的格兰特提出建议。
总的来说,我们认为这些活动是能力建设。如果我们成功了,最后的结果将是一个扩大团队的人(a)在精心挑选的重点领域;2022世界杯欧洲预选赛比分(b)投资(理由)和大量的信任和自主权;(c)能够找到许多伟大的给机会他们工作的领域。
除了内部能力建设(人员),我们希望支持我们工作的领域的发展,随着时间的推移和获得的知识使我们更有效地工作在每一个原因。总的来说,所有的这些都是“能力建设”,它将从长远来看,给有效地提高我们的能力。能力建设有很多好处在各种原因根据不同的世界观(即有吸引力。,能力建设刑事司法改革,农场动物福利,生物安全与大流行防备和更多)。
一个好处是选项值。随着时间的推移,我们期望我们的思想,世界观是最吸引人的发展。例如,我最近讨论三个关键问题,我改变主意了在过去的几年里,我怎么希望找到不同的原因有重要影响。很可能十年后,一些特定的世界观(及其相关原因)看起来更比其他人对我们,它不会与我们当前的最佳猜测。如果发生这种情况,我们很乐意投资于年的能力建设,所以我们可以快速和显著提高我们的支持。
另一个长期的好处是,我们可以是有用的捐赠者与不同的世界观。如果我们只在事业工作的匹配“猜测”的世界观,我们主要是有用的捐赠者与相同的最佳猜测;如果我们所做的工作对应所有的世界观我们发现高度引人注目,我们会有用的任何捐赠的价值观和方法是我们大体相似。这是一个很大的区别:我相信有很多人在从根本上与我们的相似的价值观,但不同的最佳猜测一些高度不确定,但根本问题——例如,如何减少价值全球灾难性的风险vs。加速科学研究vs。改善政策。
与世界观多样化,我们可以希望吸引,也被称为——任何捐赠者希望他们给予的积极影响最大化。从长期来看,我认为这意味着我们有良好的前景使许多连接通过口碑,更有效地帮助许多捐助者,以及影响对话在慈善事业。
其他好处的世界观多样化
世界观多样化意味着工作有多种原因明显不同。有很多实际利益。
我们可以使用在一个领域的经验教训来提高我们的工作在另一个。例如:
- 一些非常忽视,导致我们工作的“薄”,很少有组织工作。neglectedness以外的其他选择的原因,有许多组织工作。理解后者能给我们什么样的活动我们可能希望最终支持前者。
- 的一些原因我们工作涉及长期目标几乎没有中间的反馈(往往是如此努力减少全球灾难性的风险)。在其他原因中,我们可以更希望看到你的进步和学习从我们的结果(例如,刑事司法改革很大程度上我们选择的温顺)。
- 不同的原因有不同的文化,在许多不同的工作,我们的工作项目官员其不同的风格和方法可以互相通知。
它是容易粗心的观察者(如出版社)来理解我们的价值观和动机。的一些领域,我们的工作有很大的非传统的慈善事业,我们有时会遇到那些问题我们的动机。工作在广泛的各种各样的原因,其中一些比其他的更容易看到的情况,我们方便休闲观察员辨别我们的选择背后的模式,得到一个准确的阅读对我们的核心价值观。因为媒体报道会影响很多人的偏见,这好处可能有可观的长期影响我们的品牌和信誉。
从长期来看,我们的实际影响将更好的近似我们预期的影响。我们的hits-based给方法意味着在很多情况下,我们会将大量资源投入的事业尽管我们认为这是较有可能,我们将没有任何效果。(从人工智能的潜在风险就是这样的一个原因。)如果我们把所有的资源在我们揣测的世界观,我们可能永远不会有任何成功的资助即使我们要聪明,high-expected-value拨款。相反,我们可能“幸运”,似乎更可靠的比我们实际上是正确的和成功的。在这两种情况下,我们的实际能力评估自己的记录,并学习它,是极其有限的。别人的能力来评估我们的工作,为了决定多少重量应该放在我们的观点,。
世界观多样化减少这一问题,在某种程度上。如果我们最终将大量资源投入十个非常不同的原因,那么我们就可以合理地希望得到一个或多个“点击”即使每一个原因是。如果我们没有得到“击中”,我们有一些证据表明,我们做错了什么,如果我们得到一个或多个,这可能帮助我们的信誉。
最终我们还是做一个相对较少的“赌注”,还有常见的元素来推理和方法我们把每一个,所以我们在这方面获得的利益是有限的。
士气和招聘。在各种各样的原因使我们的组织工作的一个更有趣的地方。这意味着我们的工作仍是令人兴奋和激励我们的观点和“最佳猜测”转变,即使没有特定原因进展很长一段时间。这意味着我们的工作的共鸣,更多的人,扩大社区我们可以积极参与。这一点不会足够的本身的世界观多样化,但它在我心中是一个因素,就更不用说就是我的失职了。
何时以及如何实践世界观多样化呢?
如前所述以上多元化,世界观在很大程度上依赖于两个因素:(a)我们有很高的不确定性和找到多个世界观高度可信的;(b)会有强烈的收益递减如果我们把所有资源任何一个世界观。一些次要的好处在前一节中也具体讨论一个面向公众的组织与多个员工。我认为世界观多样化相对较大的资助者是有道理的,尤其是那些有机会产生变革性的影响根据不同高度吸引人的世界观。我不认为它是有意义的个体给予每年100美元甚至100000美元。我也不认为这是有意义的对于那些高度自信,远比其余的一个原因。
我们还没有制定出详细的“如何”世界观的多样化。理论上,一个可以开发一个正式的方法,每个潜在的直接收益占格兰特和世界观的无数利益多元化为了到达结论多少分配给每一个原因。一个可能还将考虑诸如“我不确定是否世界观A和B是相称的;有X %的机会,在这种情况下我们应该分配的一种方式,和Y %他们没有机会,在这种情况下我们应该分配的另一种方式。“但是当我们讨论了这些问题,我们还没有想出一个详细沿着这些思路框架。我们也没有彻底反思,明确指出,特定的世界观我们找到最引人注目和如何衡量它们彼此。
我们可能会在这方面投入更多的努力在未来的一年,虽然不一定会导致一个完整的或令人满意的我们的观点和框架。现在,一些非常简短的笔记对我们的实践时间:
目前,我们倾向于投资资源在每个原因,似乎有强烈收益递减,或似乎回报很明显比我们可以通过重新分配资源,以先到期者作准。更具体地说:
- 在员工能力方面,到目前为止,在我看来,有一个巨大的利益有一个全职职员在一个给定的原因,由1 - 3其他员工花足够的时间在提供信息的反馈。分配更多的工作人员通常超出这似乎可能迅速递减,尽管我们采取了个案的方法和分配更多的工作人员时引起似乎这可以大大改善我们的grantmaking。
- 在金钱方面,到目前为止,我们已经尽力约基准潜在资助反对直接现金转移;是不可能进行比较时,我们经常使用启发式,如“这格兰特似乎合理可能大大加强社区的一个重要方面的人/组织致力于这项事业吗?“作为一个大致和凭直觉找到强烈收益递减点。我们倾向于推进任何格兰特,我们了解的情况相当不错,看起来,直观地说,一些人以其原因/相关的标准的世界观(至少合理可能出现,鉴于我们高不确定性,在其他原因与赠款竞争/世界观,包括现金转移)。对于似乎特别有前途的原因,和/或被忽视的(我们可以特别变革),我们使用资金的低杆“相当强劲”的机会;对于其他原因,我们更倾向于寻找“很强”的机会。这种方法远没有理想,但有优势,这是很容易在实践中执行,考虑到我们现在有足够的资源来推进所有资助这些描述拟合。
如上所述,我们希望把更多的心思这些问题在未来一年。思想原则,系统性的方法练习世界观多样化将是非常有趣的。
脚注
1 |
以上任何可能构成“世界观”我定义它。对动物和人类的道德体重的看法可以另外复杂点。 |
---|---|
2 | 具体来说,我们最好的猜测的世界观或组合的世界观最值得操作为了完成尽可能多的好。这个不一定是一样的世界观最有可能代表一组最大限度正确的信仰,价值观和方法;可能是一个特定的世界观是只有20%可能代表一组最大限度正确的信仰,价值观,和方法,但如果是这样,这将导致> 100 x的积极影响其他的世界观。如果这样的事情是真的(可知),那么这将是最好的世界观来操作。 |
3 | (贝叶斯的调整应该减弱这种差异在某种程度上,尽管目前尚不清楚有多少,如果你相信,像我一样,估计都是相当明智的,虽然远离精确或合理可靠。我将把这考虑到一边。) |
4 | 具体来说,我们猜测的世界观最值得操作为了完成尽可能多的好。这个不一定是一样的世界观最有可能代表一组最大限度正确的信仰,价值观和方法;可能是一个特定的世界观是只有20%可能代表一组最大限度正确的信仰,价值观,和方法,但如果是这样,这将导致> 100 x的积极影响其他的世界观。如果这样的事情是真的(可知),那么这将是最好的世界观来操作。 |
5 | 具体来说,说X的好我们可以完成通过投资$ Y的九个世界观以外的“最好”,想象$ Y是收益递减点周围十几倍的投资只完成2 X一样好。这将意味着Y美金每个十世界观将会有很好的成就等于14 X (5 X为“最佳”,X为每个其他9个),而把10美元* Y为“最好”的世界观将会有很好的成就等于10倍。所以多元化方法是1.4倍的好了这些假设。 |
6 | 例如,假设我们回到上面的假设(见以前的脚注)但也想象,我们估计世界观的价值包括一些错误,这样一个未知的一个十有1000 x值和另一个未知的有0值相关的边缘。(收益递减继续以同样的方式工作。)然后把$ Y的每个十世界观会好完成至少1008 x而投入10美元* Y“最好”的世界观将会有很好的完成相当于208 x(后者是2 * (10% * 1000 x + 10% * 8 + 80% * 5 x))。虽然在前面的情况下,多元化的方法看起来约1.4 x一样好,这里看起来近5 x一样好。 |
7 | 例如,请参见迈克阿斯克尔2014年。 |
8 | 我用“人”这个词为简单起见,虽然理论上可以想象扩展分析在这一节中动物的价值体系等。 |
9 | 我知道这个设置有一些差异与罗尔斯提出的著名的“无知之幕”,但仍认为这是用于输送直觉。 |