Sztuczna inteligencja zaskoczyła ograniczeniami – roboty z ludzkimi uprzedzeniami?
Wysyłasz dziesiątki CV, a mimo wszystko nikt się nie odzywa? Winny może być robot.
Jednym z obszarów, w których zauważalny jest wpływ sztucznej inteligencji na przepływ procesu, jest rynek pracy. Czy zdarza Ci się, że szukając nowej pracy trafiasz na stanowisko niczym „skrojone” pod Ciebie? Spełniasz dokładnie każde wymaganie i marzysz właśnie o tej posadzie. Wysyłasz CV, list motywacyjny i…po 4 miesiącach nadal nikt się nie odzywa albo, po krótkim czasie dostajesz automatyczną odpowiedź, że Twoje CV nie przeszło wstępnej weryfikacji…
Zastanawiasz się co poszło nie tak? Za tym bałaganem może stać automat oparty o sztuczną inteligencję.
Oprogramowanie na zamówienie często posiada algorytm dostosowany do potrzeb danego projektu. W przypadku rekrutacji, warunki ustawia się w określony sposób, aby to system przeprowadzał wstępną weryfikację napływających aplikacji. Wszystko po to, aby rekruterom oszczędzić konieczności przeglądania CV, zupełnie niespełniających wymagań stanowiska i poświęcić czas na tych, którzy tym wymaganiom sprostali. Niestety, okazuje się, że systemy wraz z rozwojem, stają się bardziej ułomne.
Roboty uprzedzone do płci, pochodzenia, koloru skóry…
Sztuczna inteligencja rozwija się dynamicznie. Nie można zaprzeczyć, że dzięki machine learning wiele procesów zostało zautomatyzowanych i to w różnych obszarach. Pozwoliło to zwiększyć efektywność zarówno wydajnościową jak i kosztową wielu przedsiębiorstw. W Stanach Zjednoczonych machine learning gości na co dzień w aplikacjach dedykowanych obsługujących obywateli. Instytucje finansowe i społeczne korzystają ze sztucznej inteligencji w celu usprawnienia analizy i przepływu dokumentów czy realizacji wniosków finansowych.
Okazuje się jednak, że wraz z postępem systemy zaczynają przejawiać ludzkie ograniczenia. Pojawia się coraz więcej uwidaczniających to przykładów.
Amerykański „Financial Times” podaje, że przez dyskryminujące zachowanie algorytmów w oprogramowaniach opartych na sztucznej inteligencji, instytucje, a także obywatele, zaczynają odczuwać realne straty. W stanie Idaho system Medicaid obniżył zasiłki aż 4 tysiącom osób niepełnosprawnych, z pobudek płciowych i pochodzeniowych.
Ostatecznie, Stan wycofał system z obsługi interesantów, a na wdrożenie oczekuje jego następca. Choć już w fazie testów Medicaid wykazywał „objawy” czy „zachowania” ze znamionami uprzedzeń społecznych, nikt wówczas nie traktował poważnie takiego zagrożenia. Widać jednak, ze sztuczna inteligencja, jakkolwiek by na to nie spojrzeć – rozwija się zgodnie z założeniami i czerpie z przykładów, jakimi są ludzkie zachowania. W tym przypadku niestety tych negatywnych.
Software house na straży równości?
Niezależnie od prywatnych poglądów politycznych i własnych opinii, deweloperzy pracujący nad rozwojem systemów opartych o AI i rozwojem samego algorytmu, muszą pozostawać bezstronni. Oznacza to, że wypuszczane do obiegu systemy muszą być wolne od jakichkolwiek uprzedzeń, a zabezpieczenia związane z potencjalnym rozwojem algorytmu w tym kierunku – wzmocnione. IBM poinformował, że wszystkie systemy ze sztuczną inteligencją, wychodzące z ich „produkcji” zostaną oczyszczone z jakichkolwiek uprzedzeń i znamion dyskryminacji.
Okazuje się jednak, że nie tylko Medicaid stał się systemem opartym na uprzedzeniach. Z podobnym problem zetknęli się tacy giganci, jak Amazon czy Microsoft.
W przypadku tego pierwszego, algorytm uznał, że nie ma sensu wdrażać nowej usługi PRIME w dzielnicach zamieszkiwanych przez mniejszości rasowe.
Drugi zaś musiał się poważnie tłumaczyć się z zamieszczanych przez algorytm, dyskryminujących ruchy feministyczne komentarzy na Twitterze. Tutaj reakcja była niemal natychmiastowa, a bot został wyłączony w ciągu 24h. Jednak… uszczerbek na wizerunku mimo wszystko nastąpił.
Ostatnie wpisy
- Pacjent w centrum uwagi – rola Vinci Medicine w nowoczesnej medycynie.
- Strapi Headless CMS – Nowoczesna Platforma dla Twojego Biznesu
- Jak startupy w branży medtech i innych sektorach finansują inwestycje w automatyzację by przyspieszyć rozwój biznesu?
- MedTech: Innowacyjne Technologie Digital Health w Służbie Branży Medycznej
- Zwaliduj potencjał swojego produktu z warsztatami analitycznymi
Twoja wiadomość została wysłana. Dziękujemy!
Krótki przewodnik po automatyzacji biznesów
Jesteś zainteresowany ofertą?
Zobacz także
Ostatnie wpisy
Pacjent w centrum uwagi – rola Vinci Medicine w nowoczesnej medycynie.
Vinci Medicine – jak działa narzędzie do wstępnej diagnozy medycznej? Szybsza medycyna dla pacjenta. Dostępność wysokiej jakości opieki zdrowotnej stanowi obecnie wyzwanie, szczególnie w kontekście ograniczeń spowodowanych pandemią COVID-19. Z uwagi na te doświadczenia Da Vinci Studio, proponuje rozwiązanie Vinci Medicine – nowoczesne narzędzie oparte na systemach wspomagających diagnozę i wywiad z pacjentem, optymalizując proces […]
Strapi Headless CMS – Nowoczesna Platforma dla Twojego Biznesu
Czym dokładnie jest Strapi i dlaczego jest tak popularny Headless CMS? Strapi Headless CMS to nowoczesny system zarządzania treścią, który zyskał popularność dzięki swojej elastyczności i modułowości. Technologia ta pozwala na zarządzanie treściami cyfrowymi bez bezpośredniego powiązania z konkretną witryną czy aplikacją mobilną, co jest istotne dla biznesów poszukujących skalowalnych rozwiązań. Strapi, jako bezgłowy CMS, […]
Jak startupy w branży medtech i innych sektorach finansują inwestycje w automatyzację by przyspieszyć rozwój biznesu?
Jak startupy wykorzystują inwestycje w automatyzację procesów? Startupy są motorem innowacji w dzisiejszym świecie biznesu. Przedsiębiorcy, którzy decydują się na wprowadzenie nowych technologii, zyskują przewagę konkurencyjną dzięki optymalizacji i efektywności. Finansowanie na automatyzację procesów stanowi kluczowy element strategii rozwoju wielu młodych firm technologicznych. Inwestycje te pozwalają nie tylko na zautomatyzowanie rutynowych zadań, ale także na […]
MedTech: Innowacyjne Technologie Digital Health w Służbie Branży Medycznej
W dzisiejszym szybko rozwijającym się świecie technologii, sektor healthcare doświadcza przeobrażeń dzięki innowacjom znanych jako MedTech. Czym dokładnie jest MedTech i jak wpływa na jakość opieki nad pacjentem? W tym artykule przyjrzymy się najnowszym trendom, które kształtują przyszłość branży medycznej, oraz omówimy, jak startupy mogą wykorzystywać te innowacje by stworzyć wartość w obszarze digital health. […]
Zwaliduj potencjał swojego produktu z warsztatami analitycznymi
Warsztaty analityczne – klucz do sukcesu twojego startupu Przedsiębiorczość to pasmo wyzwań, szczególnie w dynamicznym świecie startupów, gdzie pomysł biznesowy musi szybko przeobrazić się w funkcjonalny produkt. Warsztaty analityczne to narzędzie, które pozwala zrozumieć i wykorzystać potencjał technologii, aby tworzyć rozwiązania, które odpowiadają na specyficzne potrzeby rynkowe. W ramach tych warsztatów, zespół ekspertów pomoże Ci […]
Twój partner technologiczny na rozwój badań B+R
Rola partnera technologicznego w działalności badawczo-rozwojowej Współczesna gospodarka opiera się na innowacji i ciągłym rozwoju. Działalność badawczo-rozwojowa (B+R) staje się kluczowym elementem strategii przedsiębiorstw, które dążą do umocnienia swojej pozycji na rynku. Partner technologiczny w procesie B+R nie jest już tylko dostawcą usług, lecz pełnoprawnym uczestnikiem tworzącym wartość dodaną. Jego rola to nie tylko wsparcie […]
Tworzenie MVP dla Startupów: Jak Wykorzystać Potencjał Pomysłu na Biznes i Rozwój Swojego Produktu w Startupie
Czym jest MVP (minimum viable product) i dlaczego jest kluczowe dla Twojego startupu? MVP, czyli Minimum Viable Product (minimalny produkt działający), to podstawowa wersja produktu, która zawiera jedynie niezbędne funkcje pozwalające na jego przetestowanie przez użytkowników. Koncepcja MVP jest ściśle związana z metodologią Lean Startup, zakładającą szybkie weryfikowanie pomysłów biznesowych i elastyczność w dostosowywaniu się […]
Znalezienie idealnego partnera technologicznego dla rozwoju twojego startupu MVP
W dzisiejszym szybko zmieniającym się świecie technologii, każdy startup pragnie zaistnieć na rynku z innowacyjnym produktem, który przyniesie rewolucję. MVP, czyli Minimum Viable Product, jest kluczowym krokiem w weryfikacji pomysłu biznesowego i przyciągnięciu uwagi inwestorów. Jednakże, aby to osiągnąć, niezbędne jest znalezienie odpowiedniego partnera technologicznego. W tym artykule pokażemy Ci, jak wybrać idealnego partnera, który […]
Twórz i waliduj aplikacje dla startupu szybciej dzięki platformom low-code
Aplikacja bez kodowania: Wprowadzenie do technologii low-code i no-code W dzisiejszym szybko rozwijającym się świecie biznesowym, startupy muszą wdrażać innowacje szybciej niż kiedykolwiek. Technologia low-code i no-code umożliwia tworzenie aplikacji bez głębokiej wiedzy programistycznej, co otwiera nowe możliwości dla przedsiębiorców. Platformy te umożliwiają programować i tworzyć zaawansowane aplikacje, wykorzystując wizualne edytory i przeciąganie komponentów, co […]