Abstrakt
W artykule zostaną przedstawione trzy podstawowe zasady zarządzania danymi oparte na Data Management Body of Knowledge (DMBOK). Przestrzeganie standardów branżowych zapewnia, że organizacje działają etycznie i odpowiedzialnie w zakresie przetwarzania danych, przyczyniając się do zaufania, wiarygodności oraz zrównoważonego rozwoju i reputacji branży. W artykule zostaną przedstawione zasady etyki danych w branży Healthcare and Life Sciences (HCLS). Artykuł opowie o fundamentalnej roli etycznego przetwarzania danych w rozwoju Human Experience (HX) design i generatywnej sztucznej inteligencji oraz postara się odpowiedzieć na następujące pytania:
- Jaką rolę odgrywa etyka danych w dostosowywaniu się do standardów branżowych?
- Jakie czynniki odgrywają kluczową rolę w rozwoju Human Experience (HX) design?
- Jakie zabezpieczenia są potrzebne do budowy godnych zaufania systemów informacyjnych w obszarze ochrony zdrowia (Trusted Health Ecosystems)?
Wstęp
The Data Management Body of Knowledge (DMBOK) sugeruje następujące definicje danych:
- Dane są środkiem reprezentacji. Stanowią one coś więcej niż same siebie (Chisholm, 2010).
- Dane są zarówno interpretacją obiektów, które reprezentują, jak i obiektem, który musi być interpretowany (Sebastian-Coleman, 2013).
- Dane są zbiorem zebranych faktów (ASQ, 2024).
- Dane są wtórną reprezentacją informacji, w sformalizowany sposób, odpowiedni do komunikacji, interpretacji lub przetwarzania (ISO, 2023).
Etyka danych jest zgodna ze standardami branżowymi i jest realizowana poprzez różne wytyczne i najlepsze praktyki, których organizacje przestrzegają. Niezbędny jest kontekst, aby dane miały znaczenie (…) stąd dla poprawy spójności danych potrzeba standardów na poziomie całej branży (DAMA, 2017). Pomocnym może być omówienie trzech podstawowych koncepcji dotyczących etyki danych, takich jak:
- Wpływ etyki danych na ludzi
- Ryzyko nadużyć
- Wartość ekonomiczna danych.
Wpływ etyki danych na ludzi
W branży HCLS, gdy myślimy o danych jako o zasobie, bierzemy pod uwagę, że dane wpływają, reprezentują i bezpośrednio dotykają pacjentów. Dokładnie dlatego liderzy branży Takeda i Cognizant omawiali Patient, Trust, Reputation, Business (PTRB) Framework (Pacjent, Zaufanie, Reputacja, Biznes). Według Samer’a Ansari, mamy w Takeda bardzo interesującą strukturę podejmowania decyzji: najpierw pacjent, potem zaufanie, następnie reputacja, a biznes za tym podąża. Ansari uważa, że transformacja cyfrowa zawsze powinna kierować się tą samą regułą (Fiercebiotech, 2024). Biofarmacja jest silnie zależna od jakości danych, dlatego gdy myślimy o etyce danych i zasadach nią kierujących, to nie ma lepszego miejsca do ich analizy, niż raporty publikowane przez profesjonalistów z dziedziny bioetyki. DMBOK wspomina o nich w rozdziale poświęconym przetwarzaniu danych, dlatego też etyka danych jest jednym z pierwszych rozdziałów dość grubej DMBOK. Zasady te zostały zdefiniowane przez Raport z Belmont, dotyczący badań medycznych. Według DMBOK – Szacunek dla Osób, Dobroczynność i Sprawiedliwość stanowią ogólne podejście do etyki danych we wszystkich dyscyplinach zarządzania informacjami (US-HSS, 1979), ale także tworzą one solidną podstawę dla etyki danych w sektorze opieki zdrowotnej.
Szacunek dla osób: zasada odzwierciedla fundamentalne etyczne wymaganie, aby ludzie byli traktowani w sposób szanujący ich godność i autonomię jako jednostki ludzkiej. Wymaga również, aby w przypadkach, gdy osoby mają zmniejszoną autonomię, podjąć dodatkowe środki ostrożności w celu ochrony ich godności i praw.
W szpitalach istnieje potrzeba stosowania technologii, które mogą eliminować błędy ludzkie. Unowocześnianie szpitali poprzez wdrażanie technologii rzeczywistości mieszanej (mixed reality), jest możliwa dzięki rozwojowi technologii medycznych (MedTech), internetu rzeczy (IoT) i rzeczywistości rozszerzonej (Augmented Reality). Wiarygodność i reputacja ekosystemów informatycznych będą zależały od ustanowienia właściwych zasad, już na etapie projektowania architektury systemowej. Więcej informacji na temat adopcji wymienionych technologii w Wielkiej Brytanii można znaleźć w wiadomościach branżowych (Cadenas, 2024).
Dobroczynność: zasada ma dwa elementy: po pierwsze, nie szkodzić; po drugie, maksymalizować możliwe korzyści i minimalizować możliwe szkody.
Ta reguła pochodząca wprost z etyki medycznej, jest istotna w kontekście zarządzania danymi i informacjami, zwłaszcza jeśli chodzi o pochodzenie i transparentność danych.
Sprawiedliwość: Ta zasada uwzględnia uczciwe i równe traktowanie ludzi.
To właściwie nic innego jak zachęcanie do poszanowania prawa i interesu publicznego, przyjęcie odpowiedzialności społecznej oraz przestrzeganie zasad etycznych w całych ekosystemach przetwarzania danych. 13 marca 2024 roku Parlament Europejski zatwierdził akt w sprawie sztucznej inteligencji, stanowiący pierwszą tego rodzaju regulację na świecie. Ten kompleksowy zestaw przepisów dotyczących sztucznej inteligencji, ustanowiony w sercu Europy, nakłada na środowisko profesjonalistów wymóg budowania godnych zaufania rozwiązań technologicznych, szczególnie gdy jest mowa o wykorzystaniu sztucznej inteligencji, przy jednoczesnym dążeniu do równowagi między innowacją, a ochroną praw i obowiązków obywateli.
Kilka startupów technologicznych przywitało nowe przepisy jako historyczny akt, promujący zaufanie i bezpieczeństwo przyszłości AI, podczas gdy pozostałe, mogą obawiać się konkurencyjnej przewagi płynącej z innych regionów geopolitycznych. W UE sztuczna inteligencja manipulująca zachowaniem ludzkim, wykorzystując przy tym ludzkie słabości zostanie zabroniona. Jest to zgodne z podstawową zasadą etyczną “nie szkodzić”, również wspomnianą w DMBOK, przy okazji wzmianki o European Data Protection Supervisor z lat 2015-2019. Niestety, obecna – druga wersja DMBOK – nie zawiera najnowszych komentarzy w tym zakresie. Dlatego z niecierpliwością czekamy na trzecią wersję, która wzbogaci dyskurs w obszarze ryzyka danych i etycznego przetwarzania danych, jak również rzuci nowe światło na potrzebę budowania etycznej kultury danych i wiarygodnych ekosystemów informacyjnych.
Ryzyko nadużyć
Unijni decydenci, zajmujący się legislaturą dotyczącą sztucznej inteligencji, pracują również nad przepisami uzupełniającymi tj. dyrektywą dotyczącą odpowiedzialności za sztuczną inteligencję (AI Liability Directive). Celem takich przepisów jest wsparcie roszczeń o odpowiedzialność za szkody spowodowane produktami i usługami opartymi na sztucznej inteligencji (Parlament Europejski, 2024). Dawniej, zarządzanie danymi było postrzegane jako zarządzanie jakością danych generowanych przez ludzi i systemy. Jednakże w chwili obecnej obejmuje także weryfikację danych generowanych przez sztuczną inteligencję, zapewniając, że dane są “fit for purpose” czyli odpowiednio dopasowane do ich przeznaczonego użycia i można im zaufać. Warto zauważyć, że The DAMA Wheel nie obejmuje etyki danych jako odrębnego obszaru wiedzy, ponieważ etyka danych wpisuje się w odpowiedzialność społeczną. Moim zdaniem takie ujęcie tematu jest wciąż aktualne i nie powinno ulegać zmianie. Kiedy pytam inżynierów danych, co przychodzi im na myśl, gdy mówię „Etyka danych”, zazwyczaj odpowiadają: “zarządzanie danymi”, “prywatność danych”, “bezpieczeństwo danych”. Nic nie wspominają o implikacjach dla procesu podejmowania decyzji, ani o odpowiedzialności społecznej, a przynajmniej nie od razu.
- Edwards Deming powiedział, że etyka oznacza „działanie właściwie, gdy nikt nie patrzy”, to stwierdzenie jest cytowane w DMBOK jako przykład etycznego podejścia do korzystania z danych. „Etyczne podejście do korzystania z danych, coraz częściej jest uznawane za konkurencyjną przewagę biznesową” (Hasselbach, 2016). DMBOK wzmacnia ten przekaz stwierdzeniem „Etyczne zarządzanie danymi może zwiększyć wiarygodność danych, procesów biznesowych i w konsekwencji wpłynąć na wizerunek organizacji. Może to prowadzić do lepszych relacji między organizacją, a jej interesariuszami. Stworzenie kultury etycznej wiąże się z wprowadzeniem odpowiedniego zarządzania, w tym instytucji kontroli, aby zapewnić, że zarówno zamierzone, jak i wynikające z przetwarzania danych rezultaty są etyczne i nie naruszają zaufania, ani nie łamią zasad godności ludzkiej.
Zauważyłam, że są profesjonaliści, którzy coraz częściej włączają etykę do swoich tytułów zawodowych. To oczywiście dobry pomysł, pod warunkiem, że istnieją jasne zasady i najlepsze praktyki, które mogą to wspierać. Moim zdaniem, wszyscy profesjonaliści zajmujący się danymi powinni mieć zasady etyczne wcielone w swoje podejście do wykonywanych obowiązków. Nie wspominając już o zrozumieniu ryzyka wiążącego się z nieetycznym przetwarzaniem danych i potencjalnych konsekwencjach prawnych takiego działania. Dostęp do danych to przywilej, wszyscy to wiemy z licznie organizowanych konferencji o zarządzaniu ryzykiem i obowiązkowych szkoleniach online w miejscu pracy. Simon Rogerson FBCS, emerytowany profesor na Uniwersytecie De Montfort, specjalizujący się w etyce komputerowej, zwanej również etyką informacji, także autor trylogii Ethical Digital Technology, w swoim ostatnim artykule dla The British Computer Society (BCS) zwraca uwagę na przypadek niesłusznego skazania pracowników poczty z powodu tuszowania usterek w systemie oprogramowania. Udowodniono, że zainstalowany przez Pocztę Brytyjską w 1999 roku system księgowości cyfrowej – Horizon, miał wiele usterek, które doprowadziły do nieprawidłowości finansowych błędnie przypisanych pracownikom poczty. Richard Moorhead, profesor prawa i etyki zawodowej na University of Exeter, uważa, że zachęty w niektórych umowach mogły wpłynąć na nieetyczne działania zewnętrznych kontraktorów jak i inżynierów Fujitsu odpowiedzialnych za testy systemowe. Profesor podkreśla, że rozwój technologii cyfrowej i działania operacyjne, nie są aktywnościami od siebie odizolowanymi. (…) Jest potrzeba cyfrowego kształcenia od wczesnego dzieciństwa, powinno ono zaszczepiać cnotę, mądrość i pokorę, a także umiejętności budujące biegłość technologiczną. To etyka cyfrowa, edukacja i świadomość rozwijają naszą pewność siebie i umiejętności, również dzięki uczeniu się przez całe życie, zapewniając narzędzia umożliwiające nam odpowiedzialne i etyczne działanie w erze cyfrowej (BCS, 2023).
Wartość ekonomiczna danych
Moim zdaniem etyka, w kontekście posiadania danych (data ownership) jest kluczowa dla utrzymania i zwiększenia ekonomicznej wartości danych. Nie powinniśmy zapominać, że dane stanowią aktywo organizacji. Czy nie jest to powodem, dla którego firmy chcą, abyśmy zwracali uwagę na najlepsze praktyki zarządzania dokumentami i wymagają od nas doskonalenia umiejętności w zakresie przetwarzania danych i ochrony danych? Aktywa (w tym niematerialne) mogą być zamienione na pieniądze. Wycena wartości niematerialnych i prawnych jest przedstawiona w rachunku zysków i strat (P&L) Zgodnie z MSSF 3, goodwill is an asset representing the future economic benefits arising from other assets acquired in a business combination that are not individually identified and separately recognised (ACCA, 2024). Dzisiejsze firmy polegają na danych, aby podejmować bardziej świadome decyzje. (…) Klienci i pacjenci oczekują spersonalizowanych treści, a dla nas, mówi lider Takeda, oznacza to, że musimy tworzyć znacznie więcej spersonalizowanych treści za ułamek kosztów (Fiercebiotech, 2024). Wartość ekonomiczna danych w obszarze Human Experience i generatywnej sztucznej inteligencji, tkwi w ich zdolności do generowania innowacji, poprawy efektywności i tworzenia przewagi konkurencyjnej wobec innych firm i organizacji. Dane można wykorzystać do uzyskania wglądu w zachowanie, preferencje i potrzeby użytkowników, co może posłużyć do projektowania produktów, usług i doświadczeń dostosowanych do tych wymagań. Ponadto, takie dane napędzają rozwój systemów generatywnej sztucznej inteligencji, dostarczając niezbędnych danych testowych do szkolenia i doskonalenia algorytmów, które mogą autonomicznie generować treści, rekomendacje lub rozwiązania.
Zgodnie z DMBOK, rozumienie zarządzania danymi jako aktywu wykorzystywanego w procesach wytwórczych, podlega ciągłemu rozwojowi i ewaluacji w czasie. Opierając się na niedawnej rozmowie liderów branży z Takeda i Cognizant, w HCLS generatywna sztuczna inteligencja może być używana do: generowania nowych treści, przeglądu najnowszych regulacji oraz podsumowań analiz. Dzięki skutecznemu wykorzystaniu danych, firmy mogą poprawić doświadczenia użytkowników, personalizować interakcje i optymalizować procesy, co w ogólnym rozrachunku powinno prowadzić do zwiększenia satysfakcji i lojalności klientów, a w konsekwencji również do zysków finansowych. Ponadto, wgląd w zachowania użytkowników, wynikający z posiadanych danych, może umożliwić rozwój zaawansowanych systemów sztucznej inteligencji zdolnych do dynamicznego dostosowywania się do ich potrzeb i preferencji, co wpłynie na dalszy rozwój Human Experience (HX).
Podsumowanie
Definicja etyki zarządzania danymi według DMBOK brzmi następująco: “Etyka zarządzania danymi dotyczy sposobu pozyskiwania, przechowywania, zarządzania, interpretacji, analizy/stosowania i usuwania danych w sposób zgodny z zasadami etycznymi, włączając w to odpowiedzialność społeczną” (DAMA, 2017). Dane są wykorzystywane do podejmowania decyzji, które wpływają na życie ludzi, zatem istnieje etyczny imperatyw zmniejszenia ryzyka, że dane mogą być błędnie przedstawione, nadużyte lub źle zrozumiane. Ta odpowiedzialność obejmuje cały cykl życia danych (data lifecycle) i moim zdaniem nie spoczywa tylko na profesjonalistach zarządzających danymi, ale na wszystkich użytkownikach danych, czyli na nas wszystkich.
Ekonomiczna wartość etycznego zarządzania danymi odgrywa kluczową rolę w zrozumieniu i rozwoju HX oraz generatywnej sztucznej inteligencji poprzez budowanie zaufania, zapewnienie zgodności z przepisami i mitygowanie ryzyka związanego z ewentualnymi nadużyciami. Etyczne podejście do przetwarzania danych, nie tylko chroni dane wrażliwe, ale także wzmacnia zaufanie klientów, prowadząc do zwiększonego zaangażowania i lojalności. Priorytetowe traktowanie najlepszych praktyk i etycznych standardów pozwala przedsiębiorstwom czerpać z ekonomicznych korzyści wynikających z wartości niematerialnych i prawnych, w tym reputacji marki, oraz ze zmniejszenia ryzyka konsekwencji prawnych, a także ze wzmacniania relacji z klientami, co w rezultacie prowadzi do zrównoważonego wzrostu i innowacji w ekosystemie cyfrowym.
Etyka danych wpływa na standardy w zarządzaniu usługami IT w branży HCLS poprzez:
- Zgodność z przepisami: standardy branżowe często odzwierciedlają wymagania prawne dotyczące ochrony danych i prywatności (np. GDPR, RODO).
- Kodeksy postępowania zawodowego: wiele stowarzyszeń zawodowych ustanowiło kodeksy postępowania, które wspierają etyczne standardy (np. DAMA, BCS).
- Specyficzne standardy branżowe: na przykład ISO czy amerykańska HIPPA, włączają zasady etyki danych do swoich wymagań. Organizacje starające się o certyfikację muszą wykazać zgodność z zasadami etyki danych.
- Inicjatywy branżowe: grupy robocze, sojusze, alianse i konferencje, które gromadzą profesjonalistów, naukowców i politycznych decydentów, pomagając tym samym w dostosowaniu standardów branżowych.
- Oczekiwania interesariuszy: interesariusze priorytetowo traktują aspekty etyczne w swoich praktykach dotyczących danych, aby utrzymać zaufanie i wiarygodność w swojej branży.
- Ciągłe doskonalenie: w odpowiedzi na postęp technologiczny, wyzwania regulacyjne i pojawiające się wyzwania etyczne, organizacje muszą nieustannie dostosowywać swoje praktyki etyki danych, w celu zachowania zgodności ze standardami branżowymi.
DAMA International buduje etyczne standardy branżowe, których wszyscy Certyfikowani Profesjonaliści Zarządzania Danymi (CDMP) muszą przestrzegać. Certyfikacja wymaga, aby profesjonaliści zarządzający danymi zobowiązali się do przestrzegania formalnego kodeksu etycznego, w tym obowiązku postępowania z danymi w sposób etyczny na rzecz społeczeństwa, wykraczając tym samym poza pracę w organizacji, która ich zatrudnia. Takie podejście buduje dobre standardy i wpływa na reputację w branży (DAMA, 2017).
Cytowania / Rekomendacje
- ACCA. “Accounting for goodwill.” ACCA Global. Accessed March 2024, https://www.accaglobal.com/gb/en/student/exam-support-resources/fundamentals-exams-study-resources/f7/technical-articles/accounting-for-goodwill.html
- ASQ. “Data Collection and analysis tools.” ASQ. Accessed March 2024,
https://asq.org/quality-resources/data-collection-analysis-tools
- Cadenas, Cesar. “Apple’s Vision Pro successfully helps nurse assist in spinal surgery: and there’s more mixed-reality medical work on the way.” TechRadar, March 13, 2024. Accessed March 2024, https://www.techradar.com/computing/virtual-reality-augmented-reality/apples-vision-pro-successfully-helps-nurse-assist-in-spinal-surgery-and-theres-more-mixed-reality-medical-work-on-the-way
- Chisholm, Malcolm D. Definitions in Information Management: A Guide to the Fundamental Semantic Metadata. Design Media, 2010.
- Data Management Association International. Data Management Body of Knowledge (2nd ed.). Technics Publications, 2017.
- European Parliament. “Artificial Intelligence Act: MEPs adopt landmark law. European Parliament.” Accessed March 2024, https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law
- Fiercebiotech. Cognizant and Takeda discuss digital transformation in Life Sciences. Accessed March 2024, https://www.fiercebiotech.com/sponsored/cognizant-and-takeda-discuss-digital-transformation-life-sciences
- Hasselbach, Gry. Data Ethics: The New Competitive Advantage. AKA Print, 2016.
- Office for Human Research Protections, “Read the Belmont Report.” HHS.gov, September 27,2022. Accessed March 2024, https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/read-the-belmont-report/index.html
- ISO. “ISO/IEC 11179-1:2023 Information technology. Metadata registries (MRD).” Accessed March 2024, https://www.iso.org/standard/78914.html
- Rogerson, Simon. Practical Digital Ethics. IT Now. The magazine for the IT professional. Winter 2023. The British Computer Society. The Chartered Institute for IT.
- Sebastian-Coleman, Laura. Measuring Data Quality for Ongoing Improvement: A data quality assessment framework. Morgan Kaufmann, 2013.
Abstract
The article describes the three core data principles based on the Data Management Body of Knowledge (DMBOK). It also defines data ethics principles in the context of Healthcare and Life Sciences (HCLS) industry. It aims to talk about the fundamental role of ethical data-handling in elevating human experience design and generative AI. Adherence to industry standards ensures that organizations operate ethically and responsibly in their handling of data, which contributes to trust, credibility, and industry sustainability and reputation. The article aims to answer the following questions:
- What role do data ethics play in industry standards alignment?
- What factors play a critical role in building human experience design?
- What guardrails are needed to build trusted ecosystems?
Introduction
The Data Management Body of Knowledge (DMBOK) suggests the following definitions of data:
- Data is a means of representation. It stands for things other than itself (Chisholm, 2010).
- Data is both an interpretation of the objects it represents and an object that must be interpreted (Sebastian-Coleman, 2013).
- Data is a set of collected facts (ASQ, 2024).
- Data is a re-interpretable representation of information in a formalized manner suitable for communication, interpretation, or processing (ISO, 2023).
Data ethics aligns with industry standards through various frameworks, guidelines, and best practices that organizations adhere to. It is obvious that we need context for data to be meaningful (…) hence the need for industry-level data standards that can bring more consistency to data (DAMA, 2017). It may be helpful to discuss the three core concepts about data ethics in a following order:
- Impact on people
- Potential of misuses
- Economic value of data
Impact on People
In the HCLS industry when we think of data as an asset, we are recognizing that data affects, represents, or touches patients. This is exactly why the industry leaders of Takeda and Cognizant discussed the Patient, Trust, Reputation, Business (PTRB) Framework. Samer Ansari says that we have a very interesting decision-making framework – Patient first, Trust, then Reputation, and then the Business follows. He believes that digital transformation must always take the same approach (Fiercebiotech, 2024).
Biopharma heavily depends on quality data, so when we think of data ethics and its principles there is no better place to look for them than in the reports published by the bioethics professionals. DMBOK mentioned them in the chapter dedicated to Data Handling, which is why Data Ethics is one of the very first chapters of a rather thick DMBOK. The principles are defined by the Belmont Report for medical research. According to DMBOK, these principles – Respect for Persons, Beneficence and Justice make a great foundation for the data ethics in HCLS industry. They also make the general approach to data ethics in all Information Management disciplines (US-HSS, 1979).
Respect for persons: The principle reflects the fundamental ethical requirement that people be treated in a way that respects their dignity and autonomy as human individuals. It also requires that in cases where people have ‘diminished autonomy’, extra care be taken to protect their dignity and rights.
In hospitals there is a requirement to use technology that could eliminate human error. Upgrading hospitals via implementing mixed reality technology can be possible with MedTech, IoT and Augmented Reality development. The trustworthiness and reputation will depend on establishing the right principles at the very beginning of the system creation. Read more about the adoption of technology in the United Kingdom in the trending news (Cadenas, 2024).
Beneficence: this principle has two elements: first, do not harm; second, maximize possible benefits and minimize possible harms.
This medical ethics principle is relevant in data and information management context, especially when it comes to data lineage and data transparency.
Justice: this principle considers the fair and equitable treatment of people.
This is nothing else but fostering respect for law and public interest, social responsibility and compliance with a focus on data processing within data ecosystems to ensure ethical treatment of data. On March 13, 2024, the European Parliament passed the Artificial Intelligence Act, as the first jurisdiction of such kind globally. It is a comprehensive AI regulatory framework established in the heart of Europe, demanding a trustworthy AI environment, and aiming to balance innovation with the protection of citizens’ rights and responsibilities in commitment to open-source data usage. Several technology startups welcomed the new regulation as a historic act, fostering trust and safety in AI’s future, while others fear the competitive advantage given to different geopolitical regions. In the EU, AI that manipulates human behavior or exploits people’s vulnerabilities will be forbidden. This aligns with the basic ethical principle of ‘do not harm’, also mentioned in the DMBOK while describing the strategic principles of the European Data Protection Supervisor from 2015-2019. Unfortunately, the current – 2nd version of DMBOK – does not include recent Privacy Law commentaries. Therefore, we are eagerly awaiting the 3rd version, which will enrich the discourse on the risks of unethical data-handling practices and provide more insights into establishing an ethical data culture and trustworthiness within information ecosystems.
Potential of misuses
What is more, the policy makers in the EU AI Office are working on complementary legislation, the very specific AI Liability Directive. The aim of such legislation is to assist liability claims for damage caused by AI-enabled products and services (European Parliament, 2024).
Managing data used to be seen as managing the quality of data generated by humans and systems. However, at the moment, it also involves verifying the generated AI data, thereby ensuring that the data is fit for purpose and can be trusted. The DAMA Wheel doesn’t include data ethics as a separate knowledge area, as data ethics fall under social responsibility. In my opinion, this is still valid and should not change. When I ask data engineers what comes to mind when I say ‘Data Ethics’, usually the answers are: Data handling, Data Privacy, Data security. They don’t say anything about the implications on the decision-making process, or social responsibility, at least not immediately. W. Edwards Deming said that ethics means “doing it right when no one is looking”, this statement is quoted in DMBOK as an example of an ethical approach to data use. “An ethical approach to data use is increasingly being recognized as a competitive business advantage” (Hasselbach, 2016). DMBOK enforces this message with the statement ‘Ethical data handling can increase the trustworthiness of an organization and the organization’s data and process outcomes. This can create better relationships between the organization and its stakeholders. Creating an ethical culture, entails introducing proper governance, including institutions of controls to ensure that both intended and resulting outcomes of data processing are ethical and do not violate trust or infringe on human dignity.
I noticed that there are more professionals who keep Ethics in their role titles. What a great idea it is. In my opinion all data professionals should have ethical principles embodied in their mindset. Not to mention the understanding of unethical data handling and potential legal consequences of such behavior. Access to data is a privilege, we all know that from the risk management conferences and mandatory e-learnings at work. Simon Rogerson FBCS and Professor Emeritus in Computer Ethics at De Montfort University, also an author of the Ethical Digital Technology trilogy, in his latest article for The British Computing Society (BCS) brings to our attention the protracted case of the wrongful conviction of post office employees because of a software system failure cover-up. It was proven that the Horizon digital accounting system installed by the Post Office in 1999 had many faults that led to financial discrepancies that were wrongly attributed to Post Office employees. Richard Moorhead, an empirical legal scholar, is also a Professor of Law and Professional Ethics at the University of Exeter. He believes that incentives in some contracts may have encouraged Fujitsu engineers and system testing contractors to act unethically. He emphasizes that digital technology development and operations are not isolated activities. There is a need for a digital education from an early age that should engender virtue, wisdom and humility as well as instrumental skill and technological prowess. It is digital ethics, education and awareness which will develop our confidence and skills, through lifelong learning, and so provide the tools to enable us to act responsibly and ethically in the digital age. (BCS, 2023).
Economic value of data
In my opinion, the ethics of data ownership are critical for maintaining and growing the economic value of data. We shouldn’t forget that data is an organizational asset. Isn’t this the reason why companies want us to pay attention to document management best practices and require us to upskill in data handling and data privacy? Assets can be converted into money. The value of goodwill is represented in the Profit and Loss statement (P&L) Under IFRS 3, Business Combinations, goodwill is an asset representing the future economic benefits arising from other assets acquired in a business combination that are not individually identified and separately recognised (ACCA, 2024). Today’s companies rely on data to make more informed decisions. Customers and patients expect personalized content, and for us, says Takeda leader, we need to create lots more personalized content at a fraction of the cost (Fiercebiotech, 2024). The economic value of data in elevating human experience design and generative AI lies in its ability to drive innovation, improve efficiency, and create competitive advantages for businesses and organizations. Data can be leveraged to gain insights into user behavior, preferences, and needs, which can inform the design of products, services, and experiences tailored to meet those requirements. Additionally, data fuels the development of generative AI systems by providing the necessary input for training and refining algorithms that can autonomously generate content, recommendations, or solutions.
According to DMBOK (Data Management Body of Knowledge), the understanding of managing data as an asset is still developing and changing over time. Following the recent discussion between tech industry leaders from Takeda and Cognizant, the generative AI in HCLS can be used for: content generation, regulatory review, and analytics summarization. By effectively harnessing data, businesses can enhance user experiences, personalize interactions, and optimize processes, leading to increased customer satisfaction, loyalty, and ultimately, financial gains. Moreover, the insights derived from data can enable the development of advanced AI systems capable of dynamically adapting to user inputs and preferences, thereby further enhancing human experiences.
Summary
The definition of Data handling ethics by DMBOK states as follows: Data handling ethics are concerned with how to procure, store, manage, interpret, analyze/apply and dispose of data in ways that are aligned with ethical principles, including community responsibility (DAMA, 2017).
Since the data is used to make decisions that affect people’s lives, there is an ethical imperative to reduce the risk that data can be misrepresented, misused or misunderstood. This responsibility extends across the data lifecycle and in my opinion doesn’t rest only with data management professionals but with all data users, all of us. The economic value of ethical data handling plays a crucial role in enhancing human experience design and generative AI by fostering trust, ensuring compliance with regulations, and mitigating risks associated with data misuse. This approach not only safeguards sensitive information but also strengthens Client confidence, leading to increased engagement and loyalty. By prioritizing ethical data practices, businesses can capitalize on the economic benefits of improved brand reputation, reduced legal liabilities, and enhanced customer relationships, ultimately driving sustainable growth and innovation in the digital ecosystem.
Data ethics corresponds with industry standards through:
- Regulatory Compliance: Industry standards often reflect legal requirements related to data protection and privacy (i.e., GDPR)
- Professional Codes of Conduct: Many professional associations established codes of conduct guiding ethical behavior.
- Industry specific standards: such as ISO or HIPPA in healthcare, incorporate data ethics principles into their requirements. Organizations seeking certification must demonstrate compliance with ethical data principles.
- Industry initiatives: working groups, alliances and conferences that gather professionals and help with industry standards alignment.
- Stakeholder Expectations: various stakeholders prioritize ethical considerations in their data practices to maintain trust and credibility within their industry.
- Continuous improvement: In response to technological advancements, regulatory challenges and emerging ethical challenges, organizations must continuously adapt their data ethics practices to remain compliant with industry standards.
DAMA builds the ethical industry standards that all DAMA International’s Certified Data Management Professionals (CDMP) follow, thereby assuring solid reputations among certified professionals. Such certification requires that data management professionals subscribe to a formal code of ethics, including the obligation to handle data ethically for the sake of society beyond the organization that employs them (DAMA, 2017).
Work Cited / Recommended
- ACCA. “Accounting for goodwill.” ACCA Global. Accessed March 2024, https://www.accaglobal.com/gb/en/student/exam-support-resources/fundamentals-exams-study-resources/f7/technical-articles/accounting-for-goodwill.html
- ASQ. “Data Collection and analysis tools.” ASQ. Accessed March 2024,
https://asq.org/quality-resources/data-collection-analysis-tools
- Cadenas, Cesar. “Apple’s Vision Pro successfully helps nurse assist in spinal surgery: and there’s more mixed-reality medical work on the way.” TechRadar, March 13, 2024. Accessed March 2024, https://www.techradar.com/computing/virtual-reality-augmented-reality/apples-vision-pro-successfully-helps-nurse-assist-in-spinal-surgery-and-theres-more-mixed-reality-medical-work-on-the-way
- Chisholm, Malcolm D. Definitions in Information Management: A Guide to the Fundamental Semantic Metadata. Design Media, 2010.
- Data Management Association International. Data Management Body of Knowledge (2nd ed.). Technics Publications, 2017.
- European Parliament. “Artificial Intelligence Act: MEPs adopt landmark law. European Parliament.” Accessed March 2024, https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law
- Fiercebiotech. Cognizant and Takeda discuss digital transformation in Life Sciences. Accessed March 2024, https://www.fiercebiotech.com/sponsored/cognizant-and-takeda-discuss-digital-transformation-life-sciences
- Hasselbach, Gry. Data Ethics: The New Competitive Advantage. AKA Print, 2016.
- Office for Human Research Protections, “Read the Belmont Report.” HHS.gov, September 27,2022. Accessed March 2024, https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/read-the-belmont-report/index.html
- ISO. “ISO/IEC 11179-1:2023 Information technology. Metadata registries (MRD).” Accessed March 2024, https://www.iso.org/standard/78914.html
- Rogerson, Simon. Practical Digital Ethics. IT Now. The magazine for the IT professional. Winter 2023. The British Computer Society. The Chartered Institute for IT.
- Sebastian-Coleman, Laura. Measuring Data Quality for Ongoing Improvement: A data quality assessment framework. Morgan Kaufmann, 2013.