GroqCloadHelper 1.5.0

GroqCloadHelper

Небольшой пакет для работы с AI моделями портала groqСload. Находится на стадии разработки, потому не рекомендуется к использованию в серьёзных системах. В последствии планируется развитие.

Конфигурация

Для конфигурирования необходимо использовать статический класс AIContext. Имеются следующие параметры:

• url (эндпоинт сервиса API (по умолчанию: https://api.groq.com/openai/v1/chat/completions))
• token (токен для авторизации. Необходимо получить в ЛК и обязательно указать)
• proxys (Список прокси-серверов. По умолчанию пуст, но лучше бы заполнить)

Пример конфигурации:

AIContext.ConfigurateAIContext(
	token: "<some_token>",
	proxys: new()
	{
		new("<ip>", <port>),
		new("<ip>", <port>),
	}
);

Пример использования:

Общение с AI происходит через объект типа AIChat. Его необходимо создать и указать тип модели (через конструктор или свойство передаётся экземпляр перечисления AIModel). Можно указать системный промт, и начать переписку.

Пример создания и работы с чатом:

using(var model = new AIChat(AIModel.Llam3_70b))
{
	string systemPromt = "Some system promt";
	model.SystemPromt = systemPromt;

	string question = "Some promt";
	string ansver = await model.SendRequest(question));

	question = "Additional promt";
	ansver = await model.SendRequest(question));
}