AI - Groq API

[smiga]

Mamy modę na AI, więc pobawmy się z poziomu LabVIEW - zerknijcie.

Otwieramy plik LabVIEW (na dole tego postu) - to jest proste,
a także tworzymy sobie plik w Pythonie (do wersji 3.13 nie powinno być problemu), którego kod wygląda tak (nazwałem go LLM_LabVIEW_API.py):

from groq import Groq

with open("D:\...wpisz swoją ścieżkę do pliku\key.txt", "r") as f:
api_key = f.read().strip()

client = Groq(api_key=api_key)

def chat_with_groq(my_message, system_role):

completion = client.chat.completions.create(
model="llama-3.1-8b-instant",
messages=[
{"role": "system", "content": f"{system_role}"},
{"role": "user", "content": f"Streść ten tekst: {my_message}"}
]
)

text = completion.choices[0].message.content

return text

Wchodzimy na stronę https://console.groq.com/keys i generujemy sobie klucz do API Groq (jest za free). Następnie wklejamy ten klucz do pliku key.txt, który umieszczamy gdzieś na swoi dysku komputera.

Pamiętaj, że Twój Python musi mieć zainstalowaną bibliotekę Groq.
Jak to zrobić? Otwieramy terminal/wiersz poleceń (kliknij Windows i wpisz CMD) i instalujemy bibliotekę Groq, wisując: pip install Groq

Teraz wystarczy uruchomić program w LabVIEW, sprawdzając tylko czy nasza wersja Pythona jest zgodna z tą, która jest wpisana w stałej Python Version. Oczywiście nazwa pliku może być inna niż LLM_LabVIEW_API.py - wtedy również ją należy zmienić w stałej.
.

Skracaj_rozszerzaj.vi

v 2018 64bit

(26.78 KiB) Pobrany 15 razy

[spalinowy]

Możesz objaśnić, co ten program robi? Aktualnie nie mam LV więc zerknąc nie moge

[smiga]

Łączy się przez API do Groq'a i buduje dla niego Prompta, w którym User_role jest częścią, którą piszemy/wklejamy, czyli jest edytowalna, a System_role jest do wyboru (raz skraca, raz rozszerza tekst ...+ ekstra bonus, sami możemy sobie zdefiniować dowolną rolę).

[smiga]

Przykłady własnych Promptow:

Oczywiście do tego wszystkiego nie potrzebujemy LabVIEW - sam Python wystarczy..., ale LabVIEW jest w stanie dostarczyć nam fajne/inne GUI, dołączyć do tego sprzęt ... i jesteśmy na forum LabVIEW