有关响应速度
实测4090下llm(minema)执行查询响应很慢,想问一下构建任务的流程是什么,能够在那些步骤优化速度吗
且在learn函数下运行久了python程序会卡死,挖方块会挖不掉(导致在一个任务卡死)
再就是bot功能上的问题,被僵尸攻击不会还手,饿了不会吃东西,但是技能书里是有写吃东西的能力的
还有问题就是最近在更新的multi-agent里的Odyssey和main下的Odyssey有什么不同吗,效率有更新吗
单agent的explore模式回比旧的Odyssey表现更优吗。
希望百忙里回答一下,谢谢
你好,原版Odyssey agent执行任务的流程是严格串行的规划-执行-反馈,执行一个技能的过程中不会与LLM进行交互,直到技能执行完成或超时,所以过程中无法根据环境改变调整行动(比如攻击突然出现的僵尸),看起来可能几分钟才会调用一轮LLM,这样的优点是成本较低。
bot卡死可能是Mineflayer自身的bug,挖方块等较底层的action都是调用的Mineflayer封装好的API,不在我们技能库的实现范围内。
Multi-Agent版本的代码将规划线程和执行线程分离,执行技能的过程中会持续与LLM进行交互,可以根据观察的更新决定中断当前技能执行最新规划的技能,这样的优点是实时响应和适应性比较强,即使用于单agent探索任务也是如此。
你好,原版Odyssey agent执行任务的流程是严格串行的规划-执行-反馈,执行一个技能的过程中不会与LLM进行交互,直到技能执行完成或超时,所以过程中无法根据环境改变调整行动(比如攻击突然出现的僵尸),看起来可能几分钟才会调用一轮LLM,这样的优点是成本较低。
bot卡死可能是Mineflayer自身的bug,挖方块等较底层的action都是调用的Mineflayer封装好的API,不在我们技能库的实现范围内。
Multi-Agent版本的代码将规划线程和执行线程分离,执行技能的过程中会持续与LLM进行交互,可以根据观察的更新决定中断当前技能执行最新规划的技能,这样的优点是实时响应和适应性比较强,即使用于单agent探索任务也是如此。
在实际测试中的确表现比初代优异很多,速度效率十分高,而且token也节省很多 但是感觉这也导致了bot能力的局限,我发现技能执行方面就死板了一点,想知道如果我希望让llm执行一些普通的或者特定的函数或技能,是需要在哪里改写呢。比如添加睡觉,farming,之类的杂项,因为原来的bot在explore下会不停下矿,漫无目的的挖,我希望加一些逻辑判断和新的技能让他更加偏向日常游玩。
在实际测试中的确表现比初代优异很多,速度效率十分高,而且token也节省很多 但是感觉这也导致了bot能力的局限,我发现技能执行方面就死板了一点,想知道如果我希望让llm执行一些普通的或者特定的函数或技能,是需要在哪里改写呢。比如添加睡觉,farming,之类的杂项,因为原来的bot在explore下会不停下矿,漫无目的的挖,我希望加一些逻辑判断和新的技能让他更加偏向日常游玩。
感谢你的反馈。如需添加新的技能,需要在MCskill/skill目录下进行实现,并在prompt中添加对应接口及其描述。修改现有技能的逻辑判断可能会比较复杂,因为MCskill/skill/primitiveAPIs采用递归调用的方式程序化了MC中的大部分基础操作,而每一次技能执行可能涉及到多个基础接口的多次调用。我们的设计思路是让LLM只专注于高层级的规划,同时通过并行处理和中断机制确保系统的灵活性。如果希望获得更细粒度、更灵活的控制,可能需要对这些基础操作的部分逻辑进行调整。