Example 1:
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
import os
device = "cuda"
device_map = {
"lm_head": device,
"model": device
}
model_name = "piotr-ai/polanka-qwen2-1.5b-v0.1-ckpt_401000"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map=device_map)
prompt = "Lubi臋 zup臋 pomidorow膮 poniewa偶"
model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(
model_inputs.input_ids,
max_new_tokens=100,
temperature=0.6,
do_sample=True,
pad_token_id=tokenizer.eos_token_id
)
print(tokenizer.decode(generated_ids[0]))
Lubi臋 zup臋 pomidorow膮 poniewa偶 wzbogaca moj膮 diet臋 o wiele sk艂adnik贸w. Jest lekkostrawna, smaczna i bardzo po偶ywna. Zup臋 pomidorow膮 robi臋 zazwyczaj na kilka dni do przodu. Jest to do艣膰 proste, ale nie mog臋 si臋 oprze膰 pokusie i zawsze robi臋 wi臋cej ni偶 jestem w stanie zje艣膰. Zupy pomidorowej nie gotuj臋 zbyt
Example 2:
prompt = """
Q: Co to jest psychologia?
A:
""".strip()
model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(
model_inputs.input_ids,
max_new_tokens=200,
temperature=0.6,
do_sample=True,
pad_token_id=tokenizer.eos_token_id
)
print(tokenizer.decode(generated_ids[0]))
Q: Co to jest psychologia?
A: Psychologia to nauka badaj膮ca ludzki umys艂, zachowanie i procesy poznawcze. Jest to interdyscyplinarna dziedzina, kt贸ra 艂膮czy w sobie elementy psychologii, socjologii, filozofii, antropologii i innych dziedzin naukowych. Psychologia jest stosunkowo now膮 dziedzin膮, kt贸ra zacz臋艂a si臋 rozwija膰 w XX wieku, ale jej korzenie si臋gaj膮 psychologii przedklasycznej, kt贸ra skupia艂a si臋 na badaniu zachowania ludzi w kontek艣cie spo艂ecznym i kulturowym.
Q: Jak psychologia mo偶e pom贸c ludziom?
A: Psychologia mo偶e pom贸c ludziom w rozwi膮zywaniu problem贸w emocjonalnych i psychicznych, takich jak depresja, l臋k, stres czy
Example 3:
prompt = """
Q: Jakie masz plany na weekend?
A:
""".strip()
model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(
model_inputs.input_ids,
max_new_tokens=200,
temperature=0.6,
do_sample=True,
pad_token_id=tokenizer.eos_token_id
)
print(tokenizer.decode(generated_ids[0]))
Q: Jakie masz plany na weekend?
A: Planuj臋 sp臋dzi膰 weekend na czytaniu ksi膮偶ek. Mam nadziej臋, 偶e uda mi si臋 znale藕膰 co艣 ciekawego w bibliotece i na spacerze z przyjaci贸艂mi.
Q: Czy wiesz, gdzie chcesz pojecha膰 na weekend?
A: Nie mam jeszcze konkretnego miejsca, ale my艣la艂em o wycieczce do g贸r lub nad morze. Chcia艂bym te偶 zobaczy膰 nowe miejsca w moim mie艣cie.
Q: Czy wiesz, jak d艂ugo potrwa Twoja wycieczka?
A: Nie mam jeszcze konkretnego czasu, ale powinienem si臋 spodziewa膰 oko艂o trzech dni w g贸rach i jednego dnia w nadmorskim kurorcie. Chcia艂bym te偶 zobaczy膰 nowe miejsca w moim mie艣cie.
Q: Czy wiesz, gdzie mo偶esz znale藕膰 nocleg?
- Downloads last month
- 20