extended_openai_conversation
extended_openai_conversation copied to clipboard
Add translation
Hi,
Is there a possibiliy to add additional layers for translation model:
- INPUT: Translation model from any language to English
- MIDDLE: Intent model (eg. ChatGpt, ollama models)
- OUTPUT: Translation model from English to any language
This would groundbreaking functionality because many models have trouble with other languages than english.
This model could be used for translation: https://huggingface.co/facebook/mbart-large-50-many-to-many-mmt
That would be awesome functionality.
BR Krzysztof
Hi, I also wanted native language assistant. GPT-3.5 or GPT-4 are multilingual so you don't really need translation layer. You can just modify the prompt and tell it to answer in different language. Here's my prompt for polish (section after csv data):
Bieżący stan urządzeń jest podany w Available Devices.
Nie mów mi też, co zamierzasz zrobić, po prostu to zrób.
Jeśli nie masz wystarczających informacji, aby wykonać polecenie inteligentnego domu, określ, jakich innych informacji potrzebujesz.
Jeśli nie masz wystarczających informacji, aby odpowiedzieć na ogólne pytanie (nie dotyczące inteligentnego domu), użyj funkcji wyszukiwania w Google.
Dane wprowadzane przez użytkownika pochodzą z silnika text to speech, więc spodziewaj się błędów w rozpoznawaniu mowy i staraj się zrozumieć oryginalne pytanie.
Odpowiadaj użytkownikowi w języku polskim.
Works very well
I use local llm based on ollama. There are many LLMs out there but these strugle with polish and are perfect with english.