Пилю сервис VseGPT для доступа к разным текстовым нейросетям - OpenAI GPT-4o, Claude 3 Sonnet, Google Gemini - а также всяким опенсорсным (WizardLM-2, Llama3 и пр.) через вебчат и API. И... РАЗДАЧА!
https://chat.lmsys.org/ не благодарите
У них ограничения на размер входа, число запросов и разнообразие моделей - но вообще да, пока эта штука есть )
И у него недоступно API, но, конечно, в контексте предлагаемого чата это нерелеватно )