Conversation

Notices

1. Fundacja Technologie dla Ludzi (ftdl@pol.social)'s status on Friday, 17-Nov-2023 07:31:42 JST Fundacja Technologie dla Ludzi

   Z życia Fundacji:

   Karta GPU GTX 1080 Ti montowana w serwerze.

   Przygotowania do generowania napisów i transkrypcji z audio w języku polskim za pomocą LLM whisper.cpp w projekcie #NapiGen (wcześniej NapGenPL).

   Czyli napisy do #PeerTube i YouTube oraz transkrypcje do podkastów !

   Oprogramowanie z naszymi "kustomizacjami" sprawdzone jest już na laptopach i na wynajętych serwerach z GPU (na godziny), niebawem będziemy mieli własny.

   Serwer trzeba jeszcze doposażyć, m. in. w dodatkowy RAM, ale o tym później 😉

   #FTdLKurier #FTdL #WspieramFtdl

   • Arkadiusz Wieczorek (arek@mastodon.internet-czas-dzialac.pl)'s status on Friday, 17-Nov-2023 07:31:41 JST Arkadiusz Wieczorek

     in reply to

     • Internet. Czas działać! 🇺🇦

     @ftdl jak z weryfikacją tego co wypluje Whispe? Na potrzeby @icd probowaliśmy, ale nawet przy największych modelach wciąż wymaga dość dużego wysiłku manualnego

   • Arkadiusz Wieczorek (arek@mastodon.internet-czas-dzialac.pl)'s status on Friday, 17-Nov-2023 15:42:36 JST Arkadiusz Wieczorek

     in reply to

     • Internet. Czas działać! 🇺🇦

     @ftdl @icd https://video.internet-czas-dzialac.pl/w/8CpFSeDaaTRq9ZWM693vL3

   • Fundacja Technologie dla Ludzi (ftdl@pol.social)'s status on Friday, 17-Nov-2023 15:42:37 JST Fundacja Technologie dla Ludzi

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Arkadiusz Wieczorek

     @arek

     A może daj nam link do jakiegoś Twojego materiału, zrobimy test na nim w wolnej chwili i podeślemy wyniki raw, bez korekty?

     @icd

   • Fundacja Technologie dla Ludzi (ftdl@pol.social)'s status on Friday, 17-Nov-2023 15:42:39 JST Fundacja Technologie dla Ludzi

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Arkadiusz Wieczorek

     @arek

     Rezultaty są bardzo dobre. Mamy kilka przykładów, gdzie nie trzeba było wiele lub prawie nic poprawiać. Dodatkowo, w json raportuje nam, gdzie ma wątpliwości, i to będzie wykorzystane w edytorze do szybkiego podświetlenia miejsc wątpliwych i korekty.

     Korekta zawsze jest niezbędnym etapem, bo nie powinno się "ufać" LLM, zwłaszcza przy nazwiskach, nazwach własnych i innych nietypowych, rzadszych sformułowaniach.

     Ale wygląda to bardzo obiecująco.

     Przykład:
     https://tube.pol.social/w/1XRcn7jsZi2SphbRc58nme

     Znajdziesz też napisy wygenerowane przez nas na YT na kanałach Piotra Czabana i GilotynaTV.

     Są zadowoleni :)

     @icd

   • Arkadiusz Wieczorek (arek@mastodon.internet-czas-dzialac.pl)'s status on Friday, 17-Nov-2023 21:32:36 JST Arkadiusz Wieczorek

     in reply to

     • Internet. Czas działać! 🇺🇦
     • PiTau

     @PiTau póki co udało się ręczną weryfikacją, a to sporo roboczogodzin wymaga @ftdl @icd

   • PiTau (pitau@mstdn.social)'s status on Friday, 17-Nov-2023 21:32:37 JST PiTau

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Arkadiusz Wieczorek

     @ftdl @arek @icd Jak trochę temu bawiłem się Whisperem, zauważyłem poważne problemy gdy jest wielu mówców albo zachodzi zmiana języka. Udało się wam (albo komuś innemu) obejść jakoś ten problem?

   • Arkadiusz Wieczorek (arek@mastodon.internet-czas-dzialac.pl)'s status on Saturday, 18-Nov-2023 00:42:11 JST Arkadiusz Wieczorek

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Agnieszka Rapcewicz
     • ola

     @ftdl dzięki zarzucę temat na spotkaniu @icd

     CC: @ola @agnieszka @kuba

   • Fundacja Technologie dla Ludzi (ftdl@pol.social)'s status on Saturday, 18-Nov-2023 00:42:12 JST Fundacja Technologie dla Ludzi

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Arkadiusz Wieczorek

     @arek @icd

     Cześć

     Tutaj przetworzone pliki:
     https://nch.pl/s/nLy2k89G4gEpDPY

     I screenshot z output, raczej było "zielono". Pliki raw, niepoprawiane.
     Jeśli ten materiał się przyda do napisów (srt są gotowe do wrzucenia jako format, do korekty ofc), to możemy przygotować więcej. Może na razie jeszcze nie wszystkie Wasze materiały, bo nie mamy mocy na to, ale kilka wybranych, "ważnych", bardzo chętnie.

   • Arkadiusz Wieczorek (arek@mastodon.internet-czas-dzialac.pl)'s status on Saturday, 18-Nov-2023 23:31:31 JST Arkadiusz Wieczorek

     in reply to

     • Internet. Czas działać! 🇺🇦
     • MiKlo:~/citizen4.eu$💙💛

     @miklo no jest to trenowane na różnych danych, bawię się z takimi rzeczami w pracy i wcale mnie to nie dziwi @ftdl @icd

   • MiKlo:~/citizen4.eu$💙💛 (miklo@soc.citizen4.eu)'s status on Saturday, 18-Nov-2023 23:31:34 JST MiKlo:~/citizen4.eu$💙💛

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Arkadiusz Wieczorek
     @arek @icd @ftdl
     Ja sobie wczoraj puściłem test na kawałku swojego materiału (nagranie w plenerze) na wszystkich modelach, od najmniejszego od największego.
     I jakie było moje zdziwienie, kiedy model medium na końcu prawie bezbłędnej transkrypcji (jedna litera do poprawy), na samym końcu ,w zupełniej ciszy usłyszał nie istniejące zdanie "Dziękuję za uwagę i do zobaczenia w kolejnym odcinku!" 😮.
   • Arkadiusz Wieczorek (arek@mastodon.internet-czas-dzialac.pl)'s status on Monday, 20-Nov-2023 03:04:36 JST Arkadiusz Wieczorek

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Piotr Sikora
     • PiTau

     @piotrsikora nie nie, mówię o naszym @PiTau @ftdl @icd

   • Piotr Sikora (piotrsikora@pol.social)'s status on Monday, 20-Nov-2023 03:04:37 JST Piotr Sikora

     in reply to

     • Internet. Czas działać! 🇺🇦
     • Arkadiusz Wieczorek
     • PiTau

     @arek ale to też z tym który wyżej był podrzucony od nas?
     my uzywamy najwiekszych modeli na GPU w naszej serwerowni...
     Ostatnio tylko problem był z wywiadem z palestyńczykiem mówiącym po polsku... po prostu problem był ze akcentem. Ale ogólnie wynik i tak był całkiem niezły... dalej z kontekstu dało sie wylapac wszystko.

     @PiTau Przyznam szczerze ze jedynie problem zdarza się że rozpocznie jakiś tekst zanim zaczną się słowa... Nie wiem czy też tego nie ogarnąć używając jakiegoś systemu Voice Activation Detection

     @ftdl @icd