Tag: security

  • Prompt Engineering i Prompt Injection

    Prompt Engineering i Prompt Injection

    Wdrażanie LLM do zadań projektowych to w większości praca z danymi.Aby móc zastosować model najpierw trzeba zebrać potrzebne dane w jednymi miejscu, zorganizować je (np uwspólnić format danych, czy uszeregować wg ważności). Model nie jest również w stanie na raz przyjąć za dużo danych, więc wymaga to od nas wygenerowania podsumowań, a może dodanie możliwości…

  • AI do moderowania inputu użytkownika

    AI do moderowania inputu użytkownika

    Bardzo ciekawe narzędzie od OpenAI, które może wspierać proces automatycznego moderowania inputu użytkownika.Endpoint jest bardzo prosty. Przykład: oczywistym jest, że taka fraza nie powinna pojawić się na forum, w komentarzu itp. Co odpowiada nam model? pole flagged zwraca wartość true. Widzimy, że wypowiedź została sklasyfikowana jako harassment, dostępny jest również scoring dla poszczególnych kategorii. Użycie…