poniedziałek, 23 września 2024

Błędy w skanowaniu dokumentów, których należy unikać

Skanowanie dokumentów to proces, który wydaje się w miarę prosty. Jednak niewielkie błędy mogą prowadzić do obniżenia jakości skanów, utraty ważnych informacji. Poniżej przedstawiam cztery najczęstsze błędy, które mogą się pojawić podczas skanowania dokumentów oraz sposoby, jak ich unikać.

1. Skanowanie w niewłaściwej rozdzielczości

Jednym z najczęstszych błędów jest wybór niewłaściwej rozdzielczości skanowania. Dokumenty tekstowe mogą wymagać innej rozdzielczości niż zdjęcia czy grafiki. Jeśli zeskanujesz dokument tekstowy w niskiej rozdzielczości (np. 72 dpi), może być nieczytelny lub niemożliwy do przetworzenia przez systemy OCR (Optical Character Recognition). Z kolei zbyt wysoka rozdzielczość (powyżej 600 dpi) niepotrzebnie zwiększy rozmiar pliku, nie wpływając znacząco na jakość.

Jak tego uniknąć: Dostosuj rozdzielczość do rodzaju skanowanego dokumentu. Dla tekstów zazwyczaj wystarczy 300 dpi, natomiast dla zdjęć lub materiałów graficznych warto wybrać 600 dpi lub więcej, aby zachować ich szczegóły.

2. Brak odpowiedniego przygotowania dokumentu

Nieodpowiednie przygotowanie dokumentu do skanowania, takie jak niezłożenie kartek, pozostawienie zagnieceń czy zacieków, może prowadzić do powstania zakłóceń w zeskanowanym obrazie. Niewyraźne krawędzie, cienie, czy niewidoczne fragmenty mogą znacznie obniżyć jakość skanu i utrudnić jego późniejsze wykorzystanie.

Jak tego uniknąć: Zadbaj o to, aby dokumenty przed skanowaniem były czyste, równe i wyprostowane. Usuń zszywki, zagniecenia i ewentualne zabrudzenia, wyprasuj dokumenty kauterem lub zwykłym żelazkiem. Warto również sprawdzić, czy skaner jest czysty. Regularnie trzeba czyścić szybę skanera. 

3. Zapisywanie skanów w niewłaściwym formacie

Kolejnym błędem jest zapisywanie zeskanowanych dokumentów w formatach, które nie są optymalne do ich późniejszego wykorzystania. Popularne formaty, takie jak JPEG, mogą być wygodne, ale nie zawsze najlepsze. JPEG kompresuje obraz, co może prowadzić do utraty jakości, szczególnie przy dokumentach tekstowych. Format PDF z kolei może być lepszym wyborem, jeśli skanowane są wielostronicowe dokumenty.

Jak tego uniknąć: Przed zapisaniem skanu zastanów się nad jego przeznaczeniem. Dla dokumentów tekstowych i oficjalnych poleca się PDF, a dla materiałów graficznych – TIFF.

4. Ignorowanie bezpieczeństwa danych

Skanowanie dokumentów często wiąże się z przetwarzaniem danych osobowych lub poufnych informacji. Częstym błędem jest niedostateczna ochrona takich skanów, co naraża firmę lub osobę prywatną na wycieki danych. Zapisywanie skanów bez szyfrowania, brak zabezpieczeń hasłem czy niekontrolowany dostęp do folderów, w których są przechowywane, to potencjalne ryzyka.

Jak tego uniknąć: Upewnij się, że wszystkie skany są odpowiednio zabezpieczone. W przypadku dokumentów poufnych używaj szyfrowanych folderów, a jeśli skany są przesyłane e-mailem, dodaj do nich hasło. Regularnie aktualizuj systemy bezpieczeństwa, aby minimalizować ryzyko cyberataków.

Podsumowanie

Unikając powyższych błędów, możesz znacząco podnieść jakość swoich skanów, zaoszczędzić czas i uniknąć potencjalnych problemów. Pamiętaj, że dobrze zeskanowany dokument to taki, który jest czytelny, łatwy w obsłudze i odpowiednio zabezpieczony.

poniedziałek, 16 września 2024

Prosty program do weryfikacji skanów w 10 minut

Ostatnio furorę w świecie AI robi serwis CURSOR – Edytor kodu wspomagany przez sztuczną inteligencję (genAI). Zawsze chciałem zagłębić się w programowanie i choć kiedyś udało mi się stworzyć słynne "Hello World", to teraz postanowiłem przetestować tę "zabawkę" na poważnie.

Po instalacji CURSOR i założeniu konta, napisałem prompt, w którym poprosiłem o stworzenie prostego programu do wsadowej weryfikacji plików w formacie TIFF. Zależało mi na tym, by aplikacja sprawdzała, czy dany plik TIFF jest prawdziwy.

Po chwili CURSOR wygenerował kod. Nie znam się czy kod jest poprawny czy, więc poprosiłem o jego weryfikację kodu. Następnie chciałem otrzymać instrukcję, jak uruchomić program, aby działał poprawnie. Wygenerowany kod napisany był w Pythonie, a model LLM, który odpowiadał na moje prompty, to Claude 3.5. Warto wspomnieć, że CURSOR obsługuje również najnowsze modele OpenAI.



Część komend, odbywała się w wierszu poleceń. Samodzielnie musiałem dodać do kodu ścieżkę do katalogu, w którym znajdowały się pliki TIFF. Natomiast w  wierszu poleceń wpisywałem następujące komendy:


Po uruchomieniu ostatniej komendy rozpoczęła się weryfikacja skanów.

Na czym polegała weryfikacja?

W kodzie odpowiedź była prosta – program analizował plik na podstawie kilku kryteriów, które zawierała funkcja python weryfikator_tiff.py. Fragment kodu:


Program sprawdzał więc:

  • Format pliku – czy jest to rzeczywiście TIFF.
  • Rozmiar pliku – czy jego wielkość przekracza 1 MB.
  • Rozdzielczość DPI – minimalnie 300 DPI, co jest standardem w przypadku skanów o wysokiej jakości.
  • Tryb koloru – obsługiwane są tylko tryby: 1-bitowy, grayscale (skala szarości) i RGB.

Jeśli któryś z tych warunków nie został spełniony, program zwracał odpowiednią informację o błędzie. Całość działała sprawnie. Jednak te podane warunki są jeszcze do dopracowania. Na przykład standardowy skan A4 w formacie TIFF, 300 DPI waży około 24 MB, w przypadku A3 i 600 DPI plik będzie ważył ponad 200MB

CURSOR nie tylko pozwolił mi stworzyć kod ale też uruchomić. Na pewno jest to narzędzie rzeczywiście ułatwia pracę programistyczną dla osób które dopiero zaczynają swoją przygodę z kodowaniem.


czwartek, 12 września 2024

Jak chronić skany

Jednym z rozwiązań zapewniających wiarygodność i ochronę skanów są znaczniki czasu, które pozwalają określić moment utworzenia lub zmiany dokumentu. 

Czym są znaczniki czasu?

Znacznik czasu to metadane dodawane do pliku, określające moment jego utworzenia. W kontekście skanów znaczniki te stanowią zabezpieczenie przed późniejszymi manipulacjami. Każda zmiana w pliku opatrzonym znacznikiem zostanie zarejestrowana, co podnosi jego wiarygodność.

Jak działają znaczniki czasu?

Proces dodawania znacznika czasu opiera się na kryptografii. Kluczowe kroki obejmują:

  • Generowanie haszu dokumentu.
  • Weryfikacja haszu przez zaufaną trzecią stronę.
  • Podpisanie haszu znakiem czasu.
  • Dołączenie znacznika do dokumentu, co zabezpiecza jego autentyczność.
  • Znaczenie znaczników czasu

Znaczniki czasu oparte są na kilku technologiach:

  • Podpisy cyfrowe: Weryfikują autentyczność i nienaruszalność dokumentu.
  • Certyfikaty cyfrowe: Wydawane przez zaufane instytucje, potwierdzają tożsamość i integralność pliku.
  • Blockchain: Umożliwia przechowywanie znaczników w sposób odporny na manipulacje.

Ochrona prywatności

Chociaż znaczniki czasu zapewniają wysoką ochronę, mogą ujawniać informacje o dacie utworzenia dokumentu, co nie zawsze jest pożądane. W wielu systemach dodanie znacznika jest opcjonalne, choć jego wartość w  sytuacjach, takich jak dowody sądowe, jest nieoceniona. W miarę rozwoju technologii znaczniki czasu staną się jeszcze bardziej popularne. Wzrośnie ich zastosowanie w codziennych systemach oraz rozwój nowych metod ochrony wiarygodności dokumentów, takich jak blockchain.

wtorek, 11 czerwca 2024

Przewodnik po formatach plików w archiwizacji cyfrowej

Wprowadzenie

Wybór odpowiedniego formatu pliku dla archiwizacji cyfrowej jest kluczowym elementem zarządzania dokumentacją w dzisiejszym cyfrowym świecie. Od odpowiedniego formatu zależy, czy dokumenty będą dostępne w przyszłości.

PDF (Portable Document Format)

PDF jest jednym z najpopularniejszych formatów plików używanych do przechowywania dokumentów. Jego wszechstronność, bezpieczeństwo i możliwości wyszukiwania sprawiają, że jest to doskonały wybór do wielu zastosowań.

  • Wszechstronność: Format PDF jest popularny i łatwy do udostępniania. Dokumenty w formacie PDF można otworzyć na większości urządzeń bez potrzeby instalowania dodatkowego oprogramowania.
  • Bezpieczeństwo: PDF obsługuje szyfrowanie i ochronę hasłem, co zapewnia ochronę poufnych informacji. Można również ustawić uprawnienia do edycji i drukowania dokumentów.
  • Możliwość wyszukiwania: Dzięki technologii OCR (optyczne rozpoznawanie znaków), pliki PDF mogą być przeszukiwane tekstowo. To znacznie zwiększa wydajność wyszukiwania i organizacji dokumentów.

PDF/A (Archiwalny PDF)

PDF/A to specjalna wersja formatu PDF zaprojektowany z myślą o długoterminowej archiwizacji dokumentów.

  • Długoterminowe przechowywanie: PDF/A gwarantuje, że dokumenty będą dostępne w przyszłości, osadzając wszystkie niezbędne elementy bezpośrednio w pliku. To oznacza, że dokumenty będą wyglądać tak samo, niezależnie od używanego oprogramowania czy sprzętu.
  • Standaryzacja: PDF/A jest zgodny z normami ISO, co zapewnia spójność i niezawodność. Dzięki temu dokumenty bardziej przewidywalne i stabilne w długim okresie.

TIFF (Tagged Image File Format)

TIFF jest popularnym formatem do przechowywania obrazów o wysokiej jakości i szczegółowości.

  • Jakość: TIFF jest doskonały do przechowywania obrazów o wysokiej rozdzielczości i szczegółowych dokumentów, takich jak mapy, plany architektoniczne czy ilustracje naukowe.
  • Kompresja bezstratna: TIFF zapewnia brak utraty danych podczas kompresji, co jest istotne dla zachowania jakości obrazów. Dzięki temu format ten jest często wykorzystywany w profesjonalnej fotografii i skanowaniu dokumentów.
  • Popularność: TIFF jest formatem idealnym do długoterminowej archiwizacji. Jego szeroka popularność sprawia, że jest to bezpieczny wybór na przyszłość.

JPEG (Joint Photographic Experts Group)

JPEG to jeden z najczęściej używanych formatów do przechowywania zdjęć i grafiki.

  • Kompresja: JPEG równoważy jakość z mniejszym rozmiarem pliku, co oszczędza miejsce na dysku. To sprawia, że jest idealny do codziennego użytku, gdzie przestrzeń dyskowa jest ograniczona.
  • Popularność: JPEG jest obsługiwany przez prawie wszystkie przeglądarki internetowe i edytory obrazów, co czyni go bardzo uniwersalnym formatem.
  • Przydatność: JPEG jest najlepszym rozwiązaniem do archiwizowania zdjęć i dokumentów niezawierających tekstu. Dzięki swojej popularności jest łatwo dostępny i prosty w użyciu.

DOCX (Microsoft Word)

DOCX jest jednym z najpopularniejszych formatów plików tekstowych, używanym głównie w środowisku biurowym.

  • Możliwość edycji: Pliki DOCX łatwe do edycji i aktualizacji, co jest wygodne w pracy biurowej. Dokumenty można szybko modyfikować, dodawać komentarze i śledzić zmiany.
  • Integracja: DOCX bezproblemowo integruje się z innymi narzędziami pakietu Microsoft Office, takimi jak Excel, PowerPoint czy Outlook. To sprawia, że jest idealnym wyborem dla firm korzystających z ekosystemu Microsoft.
  • Elastyczność: DOCX obsługuje szeroką gamę typów i formatów dokumentów, w tym tekst, obrazy, tabele i diagramy. Dzięki temu można tworzyć złożone dokumenty.

Korzyści z wyboru odpowiedniego formatu

Wydajność: Wybór odpowiedniego formatu pliku usprawnia procesy wyszukiwania dokumentów i przepływu pracy. Na przykład, PDF z technologią OCR pozwala szybko znaleźć potrzebne informacje, co znacząco zwiększa efektywność pracy.

Bezpieczeństwo: Formaty obsługujące szyfrowanie i ochronę hasłem, takie jak PDF, zapewniają ochronę poufnych informacji i kontrolę dostępu. Dzięki temu można zabezpieczyć dokumenty przed nieautoryzowanym dostępem i manipulacją.

Długoterminowość: Wybór formatów takich jak PDF/A czy TIFF, które zapewniają długoterminową trwałość dokumentów, jest kluczowy dla zachowania integralności dokumentów historycznych i finansowych. Format PDF/A, na przykład, gwarantuje, że dokumenty będą dostępne i czytelne w przyszłości, niezależnie od zmian technologicznych.

Zgodność: Formaty zgodne z normami ISO, takie jak PDF/A, spełniają wymogi prawne i dotyczące zgodności, co chroni dokumenty prawne i finansowe przed utratą wartości dowodowej. Dzięki temu można być pewnym, że dokumenty będą akceptowane przez różne instytucje i organizacje.

Podsumowanie

Wybór odpowiedniego formatu pliku jest kluczowym elementem skutecznej archiwizacji cyfrowej. Każdy z omawianych formatów PDF, PDF/A, TIFF, JPEG  i DOCX ma swoje unikalne cechy i zastosowania. Ważne jest, aby wybrać format, który najlepiej odpowiada specyficznym potrzebom wymaganiom użytkownika. Dzięki temu można zapewnić długoterminową trwałość, bezpieczeństwo i dostępność przechowywanych dokumentów.

piątek, 19 kwietnia 2024

Określenie celów wdrożenia systemu DMS

Przed wdrożeniem systemu zarządzania dokumentacją (DMS), kluczowe jest określenie celów, które organizacja chce osiągnąć za jego pomocą. Ten proces wymaga szczegółowego zrozumienia potrzeb i wytyczenia jasnych kierunków działania. W niniejszym artykule omówię kluczowe kroki niezbędne do skutecznego określenia celów wdrożenia systemu DMS oraz przyjrzymy się istotnym aspektom, które należy uwzględnić podczas tego procesu.

Określenie celów

W procesie określania celów wdrożenia systemu zarządzania dokumentacją (DMS) istotne jest uwzględnienie następujących kwestii:

  • określenie celów wdrożenia: W jaki sposób system DMS ma rozwiązać konkretne problemy organizacji oraz jakie cele chcemy osiągnąć poprzez jego implementację.
  • określenie parametrów systemu DMS: Analiza rozmiaru organizacji, okresu przechowywania dokumentów oraz innych istotnych czynników mających wpływ na projekt.
  • definicja struktury plików: Ustalenie rodzajów dokumentów, wymaganych metadanych oraz rodzajów informacji, które będą przechowywane w systemie.
  • ustalenie workflowu i parametrów digitalizacji: Określenie, jakie rodzaje dokumentacji zostaną poddane procesowi skanowania, oraz określenie parametrów technicznych plików.
  • plan migracji i konwersji istniejących zasobów: Analiza dokumentów wymagających migracji lub konwersji oraz określenie zakresu i ilości pracy potrzebnej do przeprowadzenia tego procesu.
Podsumowanie

Zdefiniowanie celów wdrożenia systemu DMS jest kluczowym etapem, który zapewnia skuteczność i efektywność całego procesu. Poprzez staranne określenie celów organizacja może lepiej dostosować system do swoich potrzeb, co przyczynia się do optymalnego wykorzystania jego możliwości i osiągnięcia sukcesu w długim okresie. Dlatego też należy poświęcić odpowiednią uwagę na każdy z wymienionych punktów, aby zapewnić harmonijne i skuteczne wdrożenie systemu DMS.


wtorek, 16 kwietnia 2024

Cyfrowy audyt w organizacji

Artykuł z września 2020

Trwała ochrona cyfrowych zbiorów staje się ważnym elementem strategii archiwizacyjnych instytucji. Przechowywane w formie cyfrowej zasoby mogą obejmować różnorodne obiekty, od dokumentów historycznych po materiały multimedialne. Dlatego też przeprowadzenie audytu staje się niezbędnym krokiem w zarządzaniu tymi zasobami. Poniższe pytania audytu cyfrowego zakładają analizę kluczowych aspektów przechowywania i zarządzania cyfrowymi zbiorami, w celu lepszego zrozumienia ich charakteru oraz potrzeb:

  • Ile obiektów cyfrowych przechowuje nasza instytucja (w %)?
  • Z którego roku pochodzą najstarsze obiekty cyfrowe?
  • Czy można ustalić rok pochodzenia najstarszych obiektów cyfrowych?
  • W jaki sposób można ustalić rok pochodzenia najstarszych obiektów cyfrowych?
  • Na jakim nośniku/medium są zapisane najstarsze obiekty cyfrowe?
  • W jakim formacie są zapisane najstarsze obiekty cyfrowe?
  • Czy była próba migracji najstarszych obiektów cyfrowych na nowsze formaty/nośniki?
  • Czy zostały określone przypadki utraty dostępu do treści obiektów cyfrowych?
  • Czy i od kiedy w instytucji podejmuje się temat trwałej ochrony cyfrowej zbiorów?

Przeprowadzenie audytu cyfrowego stanowi istotny etap w procesie zarządzania cyfrowymi zbiorami, pozwalając na identyfikację kluczowych zagadnień związanych z przechowywaniem, dostępem i ochroną tych zasobów. Jego wyniki mogą posłużyć jako fundament do opracowania lub ulepszenia strategii trwałej ochrony cyfrowych zbiorów, co ma kluczowe znaczenie dla zachowania integralności i dostępności tych zasobów na przestrzeni czasu. Dzięki audytowi cyfrowemu instytucje mogą efektywniej zarządzać swoim dziedzictwem cyfrowym, zapewniając jego trwałość i dostępność dla przyszłych pokoleń.

wtorek, 9 kwietnia 2024

Model referencyjny Open Archival Information System (OAIS)

Artykuł z sierpnia 2020

Pod pojęciem repozytorium cyfrowego, czyli archiwum cyfrowego, rozumieć należy system składający się z osób oraz przyjętych rozwiązań organizacyjnych i technicznych. Jego celem jest zgromadzenie, przechowanie oraz zapewnienie długoterminowego dostępu i użyteczności cyfrowego materiału.

Ale co właściwie oznacza długotrwały dostęp? Wyróżniamy archiwalne systemy biznesowe, które mają zapewnić dostępność i użyteczność deponowanych materiałów do 50 lat, oraz archiwalne systemy instytucji kultury, które powinny gwarantować utrzymanie użyteczności zbiorów przez okres 100 lat i dłużej. Różnice między nimi wynikają nie z samego zachowania długoterminowego, lecz z dostępności dokumentów na podstawie różnych przepisów prawnych.

Niezwykle ważna jest także wiarygodność repozytorium. Wiarygodne archiwum to takie, które gwarantuje dostępność przechowywanych i zarządzanych dokumentów elektronicznych zarówno obecnie, jak i w odległej przyszłości. Taki system powinien podlegać regularnej kontroli, a jego polityka sporządzania i kontroli kopii zapasowych archiwizowanych obiektów powinna być jasno określona. Ponadto, istotne jest posiadanie narzędzi do wykrywania i odzysku utraconych lub uszkodzonych dokumentów.

W tym miejscu pojawia się model referencyjny Open Archival Information System (OAIS), będącego normą postępowania w zakresie długoterminowej archiwizacji danych cyfrowych. Jest to uniwersalny model organizowania i funkcjonowania archiwów elektronicznych, stosowany do gromadzenia, przechowywania i udostępniania różnych typów publikacji elektronicznych. Standard ten jest oznaczony normą ISO14721:2012. W archiwach zgodnych z modelem OAIS istotne jest rozróżnienie między danymi cyfrowymi (Data Object) a obiektami informacyjnymi (Information Object).

Możemy przyjąć, że każdy dokument elektroniczny, wraz z narzędziami umożliwiającymi jego odczyt, będzie określany mianem information object. Kolejnym kluczowym pojęciem w modelu referencyjnym OAIS jest pakiet informacyjny, składający się z dwóch komponentów: przechowywanej informacji oraz opisu przechowywania. Przechowywana informacja zawiera dane cyfrowe wraz z narzędziami ich odczytu i prezentacji, natomiast opis przechowywania zawiera wszelkie informacje konieczne w procesie przechowywania.

Elementem niezbędnym w archiwum elektronicznym są także metadane przechowywanych obiektów (Information Packages), określane w modelu referencyjnym OAIS terminem Descriptive Information. Metadane dostarczają informacje o zawartości pakietu informacyjnego oraz umożliwiają jego odnalezienie w archiwum. Meta-informacje muszą być bardzo dokładne i rozbudowane, aby ułatwić identyfikację przechowywanych obiektów.

AI NEWS dla archiwów cyfrowych #1

### DeepSeek-OCR-2 : Zaawansowane optyczne rozpoznawanie znaków Opis: System OCR obsługujący obrazy i pliki PDF, z dynamiczną rozdzielczośc...