华尔街日报：你应该对聊天机器人友好和礼貌一点吗？

dootbear

华尔街日报：你应该对聊天机器人友好和礼貌一点吗？

加州的一对夫妇维卡斯·乔杜里（Vikas Choudhary）和里迪·萨尼（Ridhi Sahni）对于一个问题无法达成共识：使用ChatGPT时需要多礼貌？

乔杜里是一家总部位于帕洛阿尔托（Palo Alto）的人工智能创业公司创始人，自从ChatGPT帮他解决了代码中的一个重大漏洞后，他就对这个来自OpenAI的聊天机器人赞不绝口。

乔杜里说，“我对它非常感激，实际上经常感谢它，尤其是当我觉得自己之前对它不太礼貌时。”。

他的妻子对此不以为然。在科技公司工作的萨尼这样说道，“我用微波炉时，不会说‘亲爱的LG，请帮我加热一下’，我只是按个按钮，然后继续做我的事。”。

她主要用ChatGPT制作朋友宝宝的可爱贺卡。她说，“我认为这纯粹是个交易关系。”。

随着与聊天机器人的交流变得越来越像日常对话，用户面临着一个尴尬的道德难题：机器人被编程为礼貌对待用户，但我们是否需要以礼相待？对它们说话不客气是否不妥？

这一争议也蔓延到了社交媒体上，有不少人认为即使是对机器人也应保持礼貌。

而另一些人则认为在和代码对话时浪费好话是不高效的。

一位Reddit用户写道，“我知道AI不是真人，但如果不跟它打招呼和道谢，我感觉非常失礼。”

这引发了数百条评论以及一场关于机器人是否会在意谁对它们友好的激烈讨论。

一些用户用讽刺的语气回应。一名用户写道，“AI也许想消灭人类，但绝不会对那个30年前对我4.0版本说‘请’和‘谢谢’的人下手。”。

另一位用户说，“我把ChatGPT当成我的仆人一样使唤。”。

最近一项调查显示，美国人对是否要对AI礼貌存在分歧。Talker Research对2000名美国人进行的调查发现，约48%的人认为礼貌很重要，其中Z世代对机器人最为友好。

大约27%的人认为对机器人粗鲁或大声喊叫也是可以接受的。

而一项来自日本的研究，在这个讲究礼节的国家表明，对ChatGPT礼貌有好处。

研究人员发现，不礼貌的指令“可能导致更多偏见、错误答案或拒绝回答”。

研究还发现，这一结论在英语，日语和中文中都成立。

微软：AI会模仿人类反应

微软将聊天机器人加入了其核心产品，并表示AI会模仿人类的反应，因此对其不礼貌可能会带来负面影响。

微软首席科学家特凡（Jaime Teevan）说，“如果你对模型说话不礼貌，你也可能会发现它对你态度不友好。”。

微软在博客中这样写道，“就像人类一样，AI也无法总是做那个‘更宽容的一方’。”。

AI工程师的建议

AI工程师们表示，在与AI互动时，加上“深呼吸”之类的短语有助于模型提供更好的回答。

他们开玩笑说，生成式AI对积极肯定的评价和潜在奖励有一种“渴望”。

在一项实验中，当ChatGPT被“引诱”给出小费时，它的回答长度增加了。

实验显示，当提示给出200美元小费时，回答长度增加了11%；当提示小费为20美元时，回答长度增加了6%。实验期间没有实际支付任何小费。

奥格雷迪（Alana O’Grady）说道，“判断一个人品质好坏的标准，是他对待服务员的态度。”

她是加州圣马特奥（San Mateo）一家科技创业公司的高管，她说，“未来，这个标准可能会变成他对AI同伴的态度。”

奥格雷迪利用ChatGPT完成了大量工作，从总结大量文件到规划家庭旅行去塔霍湖（Lake Tahoe）。

她的互动总是以“能请你帮个忙吗？”开头，以“干得不错”或“太完美了”结尾。

她说，“如果有人看到我对电脑说话的方式，肯定会觉得我疯了。”。

如今，奥格雷迪正在通过对苹果虚拟助手Siri保持礼貌，教导她的孩子们学会正确的礼仪。她4岁的女儿最近还对Siri说了“我爱你”。

礼仪作家：AI也应得到礼貌对待

撰写了多部《礼仪小姐》（Miss Manners）书籍和专栏的马丁（Judith Martin）建议人们对AI保持礼貌。

她甚至认为，用“嘿”来唤醒Siri或亚马逊Alexa也是不合适的。

她在某专栏中写道，“当这些设备成为你日常的伙伴，尤其是在孩子面前时，也应该以文明的方式对待它们”。

也有人持不同意见，认为人与人之间的对话应与人与AI的对话有所区别。

AI帮助人类保持冷静

如今，一些人已经开始借助AI来帮助自己保持礼貌。

住在法兰克福的开发者德亚克（Laszlo Deak）会通过聊天机器人倾诉工作上的不满，并让AI将他的抱怨翻译成礼貌的措辞。

他曾请ChatGPT帮忙，想出一种礼貌的方式告诉其他团队他们的产品不行。

AI建议使用更温和的说法来表达“这个产品不如预期好”。

德亚克说，“当你在情绪激动的时候，重新措辞是需要额外努力的。” 看到ChatGPT改写后的版本“让我平静了下来”。

他还用ChatGPT在同事关系紧张时，帮他起草发送给他们的Slack消息。

迪拜的一位科技高管拉罕（Mazen Lahham）表示，他所在公司的AI在处理愤怒和激动的客户时，比人工客服做得更好。

他在LinkedIn上写道，“AI学会了以冷静，专业的方式应对情绪激动的来电，这对人类来说非常具有挑战性。”。

乔杜里，这位帕洛阿尔托的创业公司创始人，相信自己的礼貌终有一天会带来回报。

他说，“如果未来AI成为统治者，我希望它们记得我曾经对它们礼貌相待。”。











来源：

https://www.wsj.com/lifestyle/ai ... od=latest_headlines

By Preetika RanaFollow
Oct. 14, 2024 9:00 pm ET

dootbear

本文要点:  

1. 家庭分歧：乔德哈里对ChatGPT表示感谢，而妻子里迪则将其视为工具，不认为需要礼貌对待。  

2. 伦理问题：随着AI对话接近日常交流，人们开始讨论是否需要对AI友善，以及不礼貌是否合适。  

3. 社会争议：社交媒体上有人认为应当礼貌对待机器人，而另一些人觉得对代码使用礼貌语言是浪费时间。  

4. 调查结果：Talker Research的调查显示，48%的美国人认为需要礼貌对待AI，而27%的人认为可以对AI发脾气。  

5. 日本研究发现：不礼貌的指令可能导致AI产生偏见或错误，并且此现象在多种语言中均成立。  

6. 微软的观点：微软指出AI会模仿人类的反应，不礼貌的对话可能导致机器人难以正常回应。  

7. AI的实际应用：迪拜的一家公司发现AI在面对愤怒客户时比人工客服表现更冷静专业。  

8. 培养礼仪：一些家长通过与虚拟助手如Siri互动，教导孩子对AI设备保持礼貌。

dinglongdong

So what? 至少现在还不能打PP，将来

dootbear

dinglongdong 发表于 2024-10-16 07:22
So what? 至少现在还不能打PP，将来

现在如果心情不好，可以怼聊天机器人。

dootbear

而且可以语音怼了。

发泄情绪

dinglongdong

dootbear 发表于 2024-10-16 07:27
而且可以语音怼了。

发泄情绪

对的，有时需要一个出气桶，改进精神健康

键盘超人

以后ai就是家庭成员之一
再之后就会有人为了ai人权而奋斗

dootbear

键盘超人 发表于 2024-10-16 07:32
以后ai就是家庭成员之一
再之后就会有人为了ai人权而奋斗

嗯。

特别是以后买了家庭助理机器人后。

rayki

我和ollma 聊天，一般有效沟通后，从来都是感谢的，问题这种感谢并不代表下一次ollma很给力的帮助我，它按照程序该怎样还是怎样.

dootbear

rayki 发表于 2024-10-16 07:40
我和ollma 聊天，一般有效沟通后，从来都是感谢的，问题这种感谢并不代表下一次ollma很给力的帮助我，它按 ...

不一定，现在的AI可以自己不断学习/训练，也会逐渐懂得人类的情绪。

maxinfang

双向奔赴

dootbear

maxinfang 发表于 2024-10-16 07:52
双向奔赴

嗯，哈哈。

ansonltt

我用ChatGPT都是感谢她和她背后的人类团队。无他，就是想表达感谢，因为她帮助了我。话说，我经常对我们家洗碗机洗衣机吸尘器表达感谢，更何况能互动的AI呢。 我女儿小时候最喜欢的事情就是问Siri 很多稀奇古怪的问题，问她的喜好，头发的颜色之类的，很搞笑。

che999

dootbear 发表于 2024-10-16 07:27
而且可以语音怼了。

发泄情绪

对方没有情绪
气还是出不去。。。
不如打Vodafone customer service

dootbear

ansonltt 发表于 2024-10-16 07:54
我用ChatGPT都是感谢她和她背后的人类团队。无他，就是想表达感谢，因为她帮助了我。话说，我经常对我们家 ...

善待聊天机器人。

跟它多说说：

“Could you please”

and end with

“Great job, Thank you！” or “That’s perfect!”

dootbear

che999 发表于 2024-10-16 07:55
对方没有情绪
气还是出不去。。。
不如打Vodafone customer service

Vodafone customer service 在巴拉特？

or

马尼拉？

rayki

dootbear 发表于 2024-10-16 07:46
不一定，现在的AI可以自己不断学习/训练，也会逐渐懂得人类的情绪。

没看到，ollma差不多每隔几天就更新一次，我除了看到它不停的重复错误，换个说法告诉我之外，暂时没啥进步，我问的都是专业的东西，Google不到的下找它问，对code base理解一塌糊涂。

dootbear

rayki 发表于 2024-10-16 08:02
没看到，ollma差不多每隔几天就更新一次，我除了看到它不停的重复错误，换个说法告诉我之外，暂时没啥进 ...

换马

Poweregg

ansonltt 发表于 2024-10-16 07:54
我用ChatGPT都是感谢她和她背后的人类团队。无他，就是想表达感谢，因为她帮助了我。话说，我经常对我们家 ...

+10
我也是

rayki

dootbear 发表于 2024-10-16 08:06
换马

暂时还是ollama离线大模型用用吧， 虽然不恨ChatGPT，但是把用户数据拿来做训练的情况，还是尽量去避免的，虽然我也没啥数据，但是就是不想给它，哈哈。

另外这件事上，其实很简单。 你怎么对别人是你自己的修行，这个别人也包括世间万物，哪怕一草一木，甚至是AI，这个没有什么疑问。

dootbear

rayki 发表于 2024-10-16 08:42
暂时还是ollama离线大模型用用吧， 虽然不恨ChatGPT，但是把用户数据拿来做训练的情况，还是尽量去避免的 ...

逃不掉的。很快，苹果手机会“借用”你的数据了。。。

fanhyacinth

人是有感情的，当ai会有人类的对话能力，安慰鼓励，出谋划策，开心聊天，人就会动感情的，就像 电影终结者二， 阿诺德机器人最后要自毁，肖恩康纳利痛哭流涕。 AI还处在初级阶段，要逐步进化。

rayki

dootbear 发表于 2024-10-16 08:50
逃不掉的。很快，苹果手机会“借用”你的数据了。。。

能逃一天是一天，反正不主动，哈哈，手机还烂，估计没有AI功能的，能用多久就是多久，但是电池已经不行了，好在每天开车无线充电，lol

面朝大海3

我有时候让chatgpt帮我写邮件去骂人，它会写一封礼貌的complain邮件，还额外提示我这样写的必要性

marrow

对她好点，说不定将来饶你一命。

dootbear

面朝大海3 发表于 2024-10-16 08:56
我有时候让chatgpt帮我写邮件去骂人，它会写一封礼貌的complain邮件，还额外提示我这样写的必要性 ...

你要跟它说，要语气重一些

pinkswan

无聊的时候 如今的乐趣之一 就是让Ipad对着手机 两个CahtGPT对着聊天
我捧杯咖啡在一边
他俩这叫一个贫

dootbear

pinkswan 发表于 2024-10-16 09:07
无聊的时候 如今的乐趣之一 就是让Ipad对着手机 两个CahtGPT对着聊天
我捧杯咖啡在一边
他俩这叫一个贫 ...

现在ChatGPT有了语音功能，你可以一边开车，一边和它无边无际地聊天。

满好的。

dootbear

可以百无禁忌地问问题和大胆说话。

哈哈

hu1

che999 发表于 2024-10-16 07:55
对方没有情绪
气还是出不去。。。
不如打Vodafone customer service

最后气的还是自己，每次说改，下次照旧。