Dlaczego AI wymyśla rzeczy zamiast mówić "nie wiem"
Model językowy nie sprawdza odpowiedzi w bazie danych faktów. Jest on kontynuowany w sposób, w jaki ten tekst zazwyczaj trwa, i robi to bardzo przekonująco. Jeśli poprosisz o określoną liczbę lub link i model nie ma wiarygodnych danych, to nadal będzie produkować coś wiarygodnego: odpowiedni format, pewny ton i ładne szczegóły. Dlatego nie można odróżnić prawdy od wynalazku, po tym jak brzmi. Płynna, szczegółowa i spokojna odpowiedź nie mówi nic o tym, czy jest poprawna. Zapamiętaj to: wątpliwości nie powinny się włączać, gdy odpowiedź brzmi dziwnie, ale gdy zawiera coś do sprawdzenia i coś od niego zależy.
Co AI najczęściej wymyśla
Małe, sprawdzalne szczegóły są najbardziej niebezpieczne. Najczęściej wynalezione przedmioty to dokładne liczby i procenty, daty wydarzeń, nazwiska ludzi i organizacji, numery artykułów, cytaty "z książki" lub "z wywiadu", adresy stron internetowych i tytuły dokumentów badawczych oraz funkcje lub ustawienia programu, które nie istnieją. Link do źródła też nie jest dowodem: AI może wynaleźć te również, wraz z wiarygodną nazwą publikacji i rokiem. Ogólne rozumowanie, wyjaśnienia pojęć i przeredagowanie własnego tekstu są wymyślane znacznie rzadziej, więc to jest, gdzie wskazać SI najpierw.
Cztery czeki, które zajmują pięć minut
Po pierwsze: poproś o źródło i otwórz je sam. Jeśli strona nie istnieje lub mówi coś innego, nie używaj odpowiedzi. Po drugie: znajdź oryginalną wartość. Sprawdź figurę na oficjalnej stronie organizacji, wyszukaj cytat za pomocą dokładnych słów w cudzysłowach, zweryfikuj prawo na oficjalnym portalu swojego kraju. Po trzecie: zadać to samo pytanie w nowym czacie w różnych słowach. Jeśli odpowiedzi różnią się zauważalnie, jest to znak ostrzegawczy. Po czwarte: poprosić AI, aby podzielić swoją odpowiedź na "pewny siebie" i "nie jestem pewien, wymaga sprawdzenia". Nie jest to gwarancja, ale pokazuje słabe punkty. Główna zasada: wszystko, co zamierzasz opublikować, wysłać lub podpisać jest sprawdzane pod adresem głównego źródła.
Jak napisać komunikat, który zmniejsza odpowiedzi made-up
Najlepszym sposobem na wycięcie wynalazków nie jest zwrócenie się do AI o przypomnienie, ale przekazanie jej materiału. Wkleić tekst, tabelę lub fragment i powiedzieć, że musi odpowiedzieć tylko z tego. Dodaj pozwolenie na powiedzenie "tekst nie mówi": wiele modeli musi być wyraźnie powiedziane, że niewiedza jest dozwolona. Poproś o krótkie odpowiedzi z cytatem z materiału, więc każdy wniosek jest łatwy do sprawdzenia. Nie żądaj "dokładnych liczb z pamięci" i nie naciskaj, gdy AI waha się: presja zwiększa szansę na wynalezienie. Jeśli potrzebujesz świeżych danych, użyj trybu z wyszukiwaniem stron internetowych, gdzie istnieje, i nadal otwórz linki samodzielnie.
Kiedy nie wolno ufać SI bez sprawdzenia
Niektóre tematy niosą ze sobą wysoki koszt błędu: zdrowie i leki, pytania prawne i terminy, podatki i pieniądze, bezpieczeństwo, a wszystko, co publikuje się pod nazwiskiem lub ręką do klienta. W tych obszarach AI jest w porządku jako pomocnik do przygotowania pytań i projektu, ale nie jako źródło decyzji. Dla zdrowia i prawa ostateczna odpowiedź pochodzi od specjalisty, a numery i linki są potwierdzone przez oficjalne źródła. Użyteczny nawyk: przed użyciem wyniku, zadać sobie pytanie, co się dzieje, jeśli jest to nieprawdziwe. Jeśli odpowiedź brzmi "nic poważnego", wystarczy szybki czek. Jeśli "będą konsekwencje", sprawdź podstawowe źródło lub skonsultować się ze specjalistą.