1. 温度
生成模型,例如chatgpt这样的,抽样都包含随机性,因此每次点击“生成”时,相同的提示可能会产生不同的输出。而温度,就是用于调整随机程度的数字。
2. 生成时如何选择温度
较低的温度意味着较少的随机性;
比如,温度为 0 将始终产生相同的输出。
那么,多少温度合适呢?最好根据自己的问题,来调节。
我们看看后面的栗子(栗子不看版:直接看第6点结论)
4. 举个栗子来说:
下面对同一个问题,用不同的温度,来问chatgpt,模型是 text-davinci-003。
我用的问题,是个长提示,不容易偏离主题。
(1)下面温度=0.25 ,回答最快,非常简短。
其实作为普通的问答机器人的生成答案,还行呢。只可惜,它分不清早上、中午、晚上,只有早上、晚上、晚上。
(2)下面温度=0.5 ,回答,稍长了。
每一天,都能展开3到4条内容。有了更多的描述词,航班时间都能给到了。
(3)下面温度=1 ,这么一对比,每天的时间,分割的更细了。
有了4段: 早上、中午、下午、傍晚。
大家的出游计划,这么详细了嘛。
(4)温度=2 ,回答的,太有创意,我很难猜。
5. 请猜猜: chatgpt网页版的答案,温度是多少?
6. 最后,温度影响了生成结果的多样性、创意程度。
高温意味着更多的随机性,可以让模型给出更有创意的输出。
如果模型开始偏离主题或给出无意义的输出,则表明温度过高,犹如脱缰的野马。
执行具有“正确”答案的任务,比如问题回答或总结时,较低的温度(小于 1)更合适。
如果你希望它永远只输出一个答案,温度设为 0 ,它将始终产生相同的答案输出。
如果模型开始自我重复,则表明温度过低。
ps: 当你觉得它太慢时,不妨试试温度低点,让它生成更短的答案。
当你的提问明显很短、很长时,记得试试不同的温度。
网页版的温度:0.7 。可调温度范围0~2。
本网站文章皆为作者授权。发布者:虹七,转载请注明出处:https://ruofanseo.com/chatgpt-temperature-adjustment-guide/