和一位算法朋友聊了个有意思的话题:ChatGPT的“价值观”从何而来?
不知道大家有没有和我一样的感觉。
ChatGPT,有一套很正的价值观:坦诚、客观、尊重每个个体。
如果它是人,是个很值得相处的人。
但是,它毕竟是个算法,价值观从何而来呢?
那位做算法的朋友,正好和开发了ChatGPT的OpenAI团队有过交流。
原来,背后的逻辑是这样的——
其实,决定每个算法会训练出什么结果的,主要是三个要素:
素材、算法技术和目标函数。
算法的生产过程,就是机器算法在素材帮助下,对每个问题给出回答。
“目标函数”会评价每个回答的结果“好”还是“不好”。
算法就会不断去改进,直到“好”的结果越来越多。
也就找到了最可能实现“目标函数”的结果。
比如,抖音的推荐算法,其目标函数中最关键的变量,就是“让用户更长时间看抖音”。
于是,算法就会找出最能取悦用户的结果。
抖音的沉迷由此而生。
决定了ChatGPT会不会在表达中有价值观、有怎样价值观的,同样是目标函数。
这个目标函数的主要构成是“人”。
为了评估ChatGPT给出的每个回答“好”还是“不好”。
OpenAI有一个合作了多年的评估者团队。
与国内对地图、文本做标注的评估团队不同。
OpenAI的评估者,不仅仅要掌握评估的技能,还被要求有良好的道德。
这些评估者们需要在面试时接受对自身道德标准的全面考核。
当他们在评估ChatGPT给出的结果时,并不仅仅会看这个结果逻辑上对不对。
还会基于自己的道德标准做出评判。
当然,ChatGPT作为如此复杂的算法,实际的评估过程工作量也是巨大的。
所以OpenAI也开发了另一个算法,模仿评估团队的评估结果。
于是,
ChatGPT的道德与价值观,并不来自于任何一个个体。
也不来自于一堆被预先写好的参数。
而是来自于这一群人的道德。
这一群人,就像一个“陪审团”。
陪审团的群体价值观,在算法的放大下,成为了ChatGPT的价值观。
不知道大家有没有和我一样的感觉。
ChatGPT,有一套很正的价值观:坦诚、客观、尊重每个个体。
如果它是人,是个很值得相处的人。
但是,它毕竟是个算法,价值观从何而来呢?
那位做算法的朋友,正好和开发了ChatGPT的OpenAI团队有过交流。
原来,背后的逻辑是这样的——
其实,决定每个算法会训练出什么结果的,主要是三个要素:
素材、算法技术和目标函数。
算法的生产过程,就是机器算法在素材帮助下,对每个问题给出回答。
“目标函数”会评价每个回答的结果“好”还是“不好”。
算法就会不断去改进,直到“好”的结果越来越多。
也就找到了最可能实现“目标函数”的结果。
比如,抖音的推荐算法,其目标函数中最关键的变量,就是“让用户更长时间看抖音”。
于是,算法就会找出最能取悦用户的结果。
抖音的沉迷由此而生。
决定了ChatGPT会不会在表达中有价值观、有怎样价值观的,同样是目标函数。
这个目标函数的主要构成是“人”。
为了评估ChatGPT给出的每个回答“好”还是“不好”。
OpenAI有一个合作了多年的评估者团队。
与国内对地图、文本做标注的评估团队不同。
OpenAI的评估者,不仅仅要掌握评估的技能,还被要求有良好的道德。
这些评估者们需要在面试时接受对自身道德标准的全面考核。
当他们在评估ChatGPT给出的结果时,并不仅仅会看这个结果逻辑上对不对。
还会基于自己的道德标准做出评判。
当然,ChatGPT作为如此复杂的算法,实际的评估过程工作量也是巨大的。
所以OpenAI也开发了另一个算法,模仿评估团队的评估结果。
于是,
ChatGPT的道德与价值观,并不来自于任何一个个体。
也不来自于一堆被预先写好的参数。
而是来自于这一群人的道德。
这一群人,就像一个“陪审团”。
陪审团的群体价值观,在算法的放大下,成为了ChatGPT的价值观。
👍62💩3
2023年1月18日 星期三 农历腊月廿七
1、2022中国经济年报:我国GDP达1210207亿元,全年GDP增速为3%。
2、国家统计局:2022年末全国人口141175万人,比上年末减少85万人,为61年来首次负增长。
3、国内油价迎2023年首降:92号、95号汽油每升分别下调0.16元、0.17元。
4、公安部交通管理局:全国即日起严查酒驾醉驾行为。
5、教育部规范直播类在线教学平台:不得以默认授权、功能捆绑方式强迫用户提供个人信息。
6、国家航天局:中国科学家精确测定出月球的年龄是20.3亿年。
7、深圳拟推共有产权住房,售价约为土地出让时市场价的5折。
8、上海:2023春节期间,高架、内环内地面、公交专用道均不限行。
9、小鹏汽车官宣降价,旗下车型最高降幅达3.6万元。
10、青岛市城阳区人民法院向刘暖曦(原名刘鑫)发布限制消费令。
11、科学家预测厄尔尼诺即将到来,2024或成“史上最热年份”。
12、俄罗斯联邦反垄断局对苹果公司罚款12亿卢布。
13、美媒:美国国务卿布林肯将于2月5日访问中国,外交部:中方欢迎。
14、西方拱火不断加码!美“星链”系统已部分交付乌军;北约秘书长:将向乌提供更多重型武器。
15、俄防长:俄军将大规模调整,扩军至150万人。
1、2022中国经济年报:我国GDP达1210207亿元,全年GDP增速为3%。
2、国家统计局:2022年末全国人口141175万人,比上年末减少85万人,为61年来首次负增长。
3、国内油价迎2023年首降:92号、95号汽油每升分别下调0.16元、0.17元。
4、公安部交通管理局:全国即日起严查酒驾醉驾行为。
5、教育部规范直播类在线教学平台:不得以默认授权、功能捆绑方式强迫用户提供个人信息。
6、国家航天局:中国科学家精确测定出月球的年龄是20.3亿年。
7、深圳拟推共有产权住房,售价约为土地出让时市场价的5折。
8、上海:2023春节期间,高架、内环内地面、公交专用道均不限行。
9、小鹏汽车官宣降价,旗下车型最高降幅达3.6万元。
10、青岛市城阳区人民法院向刘暖曦(原名刘鑫)发布限制消费令。
11、科学家预测厄尔尼诺即将到来,2024或成“史上最热年份”。
12、俄罗斯联邦反垄断局对苹果公司罚款12亿卢布。
13、美媒:美国国务卿布林肯将于2月5日访问中国,外交部:中方欢迎。
14、西方拱火不断加码!美“星链”系统已部分交付乌军;北约秘书长:将向乌提供更多重型武器。
15、俄防长:俄军将大规模调整,扩军至150万人。
👍19
阮春福辞去越南国家主席:为任内官员犯错负政治责任丨新闻人物
2006年4月,越南“十大”召开,会议决定按照“差额选举”进行改革;
2010年,越南实行财产公示制度;
2016年,越南举行了首次全民选举;
2017年,越南国会宣布废除户籍制度;
2019年11月,越南废除“公务员终身制”;
2021年,越南实行普选。
越南的体制改革,看起来已经有模有样,也的确很容易让看客感到“有亮点”。因为越南的“四驾马车”体制——总书记、国家主席、国会主席和总理,本身就让权力存在某种分权、制衡的雏形。总书记主要由北方的河内市产生,总理则多是由南方的胡志明市产生,这又让南北方存在一种政治平衡。所以,一种政治框架之上再实施普选,这很容易让那些坚持“一人一票”民主观的人群接受,并认为这很接近欧美的民主。👍39🤮1
笔者老家是山东某农村,父亲是恢复高考后的大学生,很早就出来工作了,小时候每年过年时会带着我回老家看望老人。昨天父亲回老家给老人置办年货,顺便给我打了个电话。电话里聊到几件事
1、村子里老人每个月120块钱的社保已经好久没发了,问我是为啥,我说可能是地方财政紧张吧,应该过段时间会补上。
2、给我看老家正在烧的、1吨2000块钱的煤块,说现在屋子里有十六七度,很暖和。
3、跟我说村里我五奶奶家里舍不得烧煤,只有几度,挺可怜的。我问他能不能送点煤过去,他说五奶奶自己的俩儿子都在村里,但是务农一个月赚不了几千块钱,孩子又要上学,能省则省了。说我们家离他们关系远,去送煤也不合适。
4、跟我说我堂叔从村镇某工厂退休了,因为前期一直在缴社保,因此退休以后能领2000块钱每个月的退休金。村子里务农的我父亲的同辈(比如五奶奶的两个儿子),一直没有缴过社保,因此也领不到钱。
5、之前村里老人问我父亲,为啥他们没有退休金,没有社保?我爸说因为他们没交社保,自然也领不了社保。老人又问,说大家交了几十年公粮了,产1000斤粮食要上缴几百斤,那不算社保吗?我父亲回答不上来,只能叹了口气。
6、电话里我父亲跟我说,这次回家他再次感觉到,是中国农民驮着中国在前进。
【网评】“交了几十年公粮了,产1000斤粮食要上缴几百斤,那不算社保吗?”
1、村子里老人每个月120块钱的社保已经好久没发了,问我是为啥,我说可能是地方财政紧张吧,应该过段时间会补上。
2、给我看老家正在烧的、1吨2000块钱的煤块,说现在屋子里有十六七度,很暖和。
3、跟我说村里我五奶奶家里舍不得烧煤,只有几度,挺可怜的。我问他能不能送点煤过去,他说五奶奶自己的俩儿子都在村里,但是务农一个月赚不了几千块钱,孩子又要上学,能省则省了。说我们家离他们关系远,去送煤也不合适。
4、跟我说我堂叔从村镇某工厂退休了,因为前期一直在缴社保,因此退休以后能领2000块钱每个月的退休金。村子里务农的我父亲的同辈(比如五奶奶的两个儿子),一直没有缴过社保,因此也领不到钱。
5、之前村里老人问我父亲,为啥他们没有退休金,没有社保?我爸说因为他们没交社保,自然也领不了社保。老人又问,说大家交了几十年公粮了,产1000斤粮食要上缴几百斤,那不算社保吗?我父亲回答不上来,只能叹了口气。
6、电话里我父亲跟我说,这次回家他再次感觉到,是中国农民驮着中国在前进。
【网评】“交了几十年公粮了,产1000斤粮食要上缴几百斤,那不算社保吗?”
😱34👍24😢9
知道为什么大家都想进体制吗?
给大家说一个我身边的真实案例,我一朋友的爸妈都是古早年代的985大学生,爸爸是国防生毕业去了一所君校当老师,妈妈则去了一家国企当工程师,到他们退休的时候,妈妈已经是高管,是那个企业的总工,爸爸还是一名教师,但你知道退休工资差多大吗?
他妈一高管,退休工资到手6000,而爸爸所在的君校,和很多公家单位一样,他们都有个不成文的规定,即退休提半级,让你以更高一级的身份退休,所以爸爸退休的时候是副君级,退休工资一个月2w多。
也就是,他爸啥也不干,就在家里蹲着,都比我朋友哼哧哼哧干一个月挣得多,并且君对的待遇是跟着全君一起来的,大家涨他们退休待遇也跟着涨,并且,福利啥都没降啊,一样看病不要钱,一样公交地铁不要钱,就你看不到的钱真的非常非常多。
在职的时候,他爸没他妈赚得多,可一退休,立马看出来了。
于是我又和自己那些gwy朋友们聊了聊,发现他们也是一样的,看着现在赚的是不多,但真正的好处,从退休才开始。
再进一步,除非在职的时候你就拥有非常牛比的赚钱能力,一年挣他个几大十万几百万,根本也不在乎那点退休工资,否则,企业和体制,对比很明显了。
于是,早点醒悟,早点少走弯路。
如果就是一平平无奇的人,那么体制,真的才是好归宿。
给大家说一个我身边的真实案例,我一朋友的爸妈都是古早年代的985大学生,爸爸是国防生毕业去了一所君校当老师,妈妈则去了一家国企当工程师,到他们退休的时候,妈妈已经是高管,是那个企业的总工,爸爸还是一名教师,但你知道退休工资差多大吗?
他妈一高管,退休工资到手6000,而爸爸所在的君校,和很多公家单位一样,他们都有个不成文的规定,即退休提半级,让你以更高一级的身份退休,所以爸爸退休的时候是副君级,退休工资一个月2w多。
也就是,他爸啥也不干,就在家里蹲着,都比我朋友哼哧哼哧干一个月挣得多,并且君对的待遇是跟着全君一起来的,大家涨他们退休待遇也跟着涨,并且,福利啥都没降啊,一样看病不要钱,一样公交地铁不要钱,就你看不到的钱真的非常非常多。
在职的时候,他爸没他妈赚得多,可一退休,立马看出来了。
于是我又和自己那些gwy朋友们聊了聊,发现他们也是一样的,看着现在赚的是不多,但真正的好处,从退休才开始。
再进一步,除非在职的时候你就拥有非常牛比的赚钱能力,一年挣他个几大十万几百万,根本也不在乎那点退休工资,否则,企业和体制,对比很明显了。
于是,早点醒悟,早点少走弯路。
如果就是一平平无奇的人,那么体制,真的才是好归宿。
💩58👍17😱4🤮3
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
👍35😢6🤬3👎2💩1