Amazon product description generator for texta.ai

Видео туториал

Все не так уж и сложно. Для начала скачаем нужную библиотеку.

$ pip install happytransformer

Скачиваем модельку с drive или с этой github repo. Тут всего 4 варианта (0 тренировалась меньше всех, 3 больше).

Подклучаем эту библиотеку и загружаем выбранную модельку, указывая на нее путь в directory.

from happytransformer import HappyGeneration

happy_gen = HappyGeneration(load_path="/content/drive/MyDrive/GPT-Neo_Amazon/3/")

Далее, можно задать настройки генирации. Если все есть вопросы, что это за настройки, то можно посмотреть их тут.

min_length =  10
max_length = 100 
do_sample = True
early_stopping = True
num_beams = 1 
temperature = 0.6
top_k = 50
top_p = 0.8
no_repeat_ngram_size = 1

gen_args = GENSettings(min_length, max_length, do_sample, early_stopping, num_beams, temperature, top_k, no_repeat_ngram_size, top_p)

Для генерации, запускаем следующию функцию, где text это промпт который используем. Примеры таких можно найти в вкладке Test Model этого файла. Результат генерации находится в result.text.

result = happy_gen.generate_text(text, args=gen_args)

print(result.text)

Вроде все. Спасибо за внимание.