a blog about tech.

  • Podsumowanie spotkania – whisper w praktyce

    Podsumowanie spotkania – whisper w praktyce

    W jednym z poprzednich wpisów przygotowałem POC wyciągania ścieżki dźwiękowej z filmu, generowanie transkrypcji oraz następnie przygotowanie podsumowania spotkania. Chciałbym teraz to rozwiązanie wynieść na trochę wyższy poziom. Prawdopodobnie wciąż nie będzie to gotowe rozwiązanie,…

  • Różne modele od OpenAI

    Różne modele od OpenAI

    ChatGPT – to najczęściej pojawiająca się odpowiedź na pytanie jaką znasz sztuczną inteligencję. Większość jest również świadoma (ponieważ sam UI daje możliwość przełączania się), że pod spodem mogą być dwa modele GPT-3.5 lub GPT-4. Zazwyczaj wybieramy GPT4 i to tyle. Ale czy na pewno? Modele dostępne w OpenAI (większość tylko po API).

  • Context is the King!

    Context is the King!

    Co najmniej kilka osób z którymi rozmawiałem na temat sztucznej inteligencji, wypowiadało się z podziwem na temat tej technologii, ale gdy zapytałem o efekty ich eksperymentów z modelem (głównie GPT 3.5) wspominali o tym, że działa to niesamowicie, ale jednak nic konkretnego lub wartościowego nie byli w stanie stworzyć. Owszem, model podpowiedział rozwiązanie, albo zaproponował…

  • Co zamiast chatGPT?

    Co zamiast chatGPT?

    AI na codzień to przede wszystkim wsparcie. Widać to po historii wątków na naszym wspólnym koncie z subskrypcją ChatGPT. Niestety ChatGPT ma dwa podstawowe minusy. Pokazuje to jasno, że sam model nie wystarczy. Potrzebna jest do niego finezyjna otoczka, która zadba, aby wyniki były adekwatne do naszych potrzeb. Bardzo ciekawym narzędziem jest Perplexity.ai . To model, który…

  • Prompt Engineering i Prompt Injection

    Prompt Engineering i Prompt Injection

    Wdrażanie LLM do zadań projektowych to w większości praca z danymi.Aby móc zastosować model najpierw trzeba zebrać potrzebne dane w jednymi miejscu, zorganizować je (np uwspólnić format danych, czy uszeregować wg ważności). Model nie jest również w stanie na raz przyjąć za dużo danych, więc wymaga to od nas wygenerowania podsumowań, a może dodanie możliwości…

  • Makro pod skrótem klawiszowym

    Makro pod skrótem klawiszowym

    Tym razem coś bardzo praktycznego. To rozwiązanie działa tylko na OSX, ale prawdopodobnie można znaleźć odpowiedniki do innych systemów. Używam wbudowaną w osx aplikację Shortcuts i tworzę tam akcje do łączenia się z GPT-4 Następnie na przykład w notatniku (czy akurat tam gdzie pracuję) tworzę sobie krótkie polecenie Następnie kopiuję ten tekst, wywołuję skrót klawiszowy,…

  • AI do moderowania inputu użytkownika

    AI do moderowania inputu użytkownika

    Bardzo ciekawe narzędzie od OpenAI, które może wspierać proces automatycznego moderowania inputu użytkownika.Endpoint jest bardzo prosty. Przykład: oczywistym jest, że taka fraza nie powinna pojawić się na forum, w komentarzu itp. Co odpowiada nam model? pole flagged zwraca wartość true. Widzimy, że wypowiedź została sklasyfikowana jako harassment, dostępny jest również scoring dla poszczególnych kategorii. Użycie…