1 / 44

Norberto PatrignaniIvrea, 27 Ottobre 02018

"Social Network" Addio?Information and Communication Technologies Made for Humans

2 / 44

"The code I’m still ashamed of"

Source: Bill Sourour, "The code I’m still ashamed of", FreeCodeCamp, 13 November 2016, https://medium.freecodecamp.org/

3 / 44

One of the projects I was assigned to involved a drug that was targeted at women... the website made it clear that the client wanted to specifically target teenage girls.One of the features of this website was a quiz that asked girls a series of questions and recommended a type of drug based on their answers. When I received the requirements, they contained the questions for the quiz, along with multiple choice answers for each question. ... what rules determined what treatment the quiz would recommend?I spoke to the Account Manager about this. She emailed the client and got me the requirements. With those, I proceeded to code up the quiz.“Well, it seems that no matter what I do, the quiz recommends the client’s drug as the best possible treatment. The only exception is if I say I’m allergic. Or if I say I am already taking it.”The client was extremely pleased with the site. So much so that their rep invited me and the entire team out to a fancy steak dinner.The day of the dinner, shortly before leaving the office, a colleague emailed me a link to a news report online. It was about a young girl who had taken the drug I’d built the website for.She had killed herself.

It turned out that among the main side effects of that drug were severe depression and suicidal thoughts.... I’ve never felt okay about writing that code.Not long after that dinner, I resigned.

As developers, we are often one of the last lines of defense against potentially dangerous and unethical practices.We’re approaching a time where software will drive the vehicle that transports your family to soccer practice. There are already AI programs that help doctors diagnose disease. It’s not hard to imagine them recommending prescription drugs soon, too.The more software continues to take over every aspect of our lives, the more important it will be for us to take a stand and ensure that our ethics are ever­present in our code.Since that day, I always try to think twice about the effects of my code before I write it. I hope that you will too.

UPDATE 2018: I am now a member of the ACM and adhere to their 2018 Code of Etihcs.

4 / 4417 July 2018

5 / 44

Le tecnologie dell'informazione sono arrivate a plasmare la società ed il pianeta

in modo inquietante, sono parte integrante della sfida dell'Antropocene

Per affrontare queste sfidela filiera del dato­informazione­conoscenza 

deve passare ad una visione sistemica dell'Infosferasviluppando tecnologie 

socialmente desiderabili, ambientalmente sostenibili e 

eticamente accettabili.

6 / 44

Mobile Lovers

Source: Bansky, street artist. Clement Street, Bristol

Terminals Host

Host PCs

Host­CentricComputing

Distributed, Client/ServerComputing

Cloud Computing: Back to the Future

 TouchScreens

ProcessingStorage

ProcessingStorage

Input

StorageProcessingOutput

Network

Input

Output

Network

Input

Output

NetworkHost

CloudComputing

8 / 44

"... At the heart of the change, the next 20 years will be intelligence drawn from informationInformation will be the ‘oil of the 21st century’. ... It will be the resource running our economyin ways not possible in the past."

Peter SondergaardGartner Symposium/ITxpo 2010, October 17­21, Orlando

9 / 44Source: sciencegl.com, timesofscience.comSource: V.Springel / Max­Planck­Institute for Astrophysics

Data

Information

Knowledge

10 / 44

Titans of Web,have produced amazing products ...But these companies are also trying to capture our finite attention, which they need to make money. ...they must use increasingly persuasive techniques to keep us glued. They point Artificial IntelligenceI­driven news feeds, content, and notifications at our minds, continually learning how to hook us more deeply ­ from our own behavior.

Unfortunately, what's best for capturing our attention isn't best for our well­being:

Snapchat turns conversations into streaks, redefining how our children measure friendship.Instagram glorifies the picture­perfect life, eroding our self worth.Facebook segregates us into echo chambers, fragmenting our communities.YouTube autoplays the next video within seconds, even if it eats into our sleep....These are not neutral products.They are part of a system designed to addict us.

Source: http://humanetech.com/problem/

Designed to Addict Us

11 / 44Source: http://humanetech.com/problem/

No Other Media has...

12 / 44Source: www.forbes.com, 2018, accesse 14 October 2018

13 / 44

Johann Wolfgang von Goethe (1749­1832)

Source: Josef Raabe ­ Portrait of Goethe, Wallraf­Richartz­Museum, Cologne 

1797: Der Zauberlehrling(The Sorcerer's Apprentice)

W.Disney, Fantasia, 1940 

F.Barth, Der Zauberlehrling, 1882 

P.Dukas, L'Apprenti Sorcier, 1897

14 / 44

Autonomous Vehicles (2017)

Source: http://www.thecarconnection.com

15 / 44

OFF

Ethics' Knob?

Baruch Spinoza (1632 ­ 1677)

RELATIVISM

DEONTOLOGISM

Immanuel Kant (1724 ­ 1804)

CONSEQUENTALISM

John Stuart Mill(1806 ­ 1873)

16 / 44Source: Weizenbaum J., "Computer Power and Human Reason: From Judgment To Calculation", Freeman, 1976 

Decidingis a Computational activity, something that can ultimately be programmed. 

17 / 44Source: Weizenbaum J., "Computer Power and Human Reason: From Judgment To Calculation", Freeman, 1976 

Choosing is the product of Judgment, not Calculation. It is the capacity to Choose that ultimately makes us Human.

18 / 44

Weizenbaum's 3 Moral Laws of the Information Society

1. Human functions that require judgement, respect, understanding, caring and love ought not to be substituted by computers

2. Applications which have irreversible and not entirely foreseeable side effects, that do not meet pressing human needs, ought not to be undertaken without very careful forethought.

3. IT is a matter of human choice and responsibility.

Joseph Weizenbaum(Berlin, 1923 ­ Berlin, 2008)

1976: Joseph Weizenbaum

Source: Weizenbaum J., "Computer Power and Human Reason: From Judgment To Calculation", Freeman, 1976 

19 / 44

Co­Shapingbetween Information Technology & Society

20 / 44

1985: Computers as Socio­Technical Systems

"Recognition that technology is not just artifacts,but rather artifacts embedded in social practices

and infused with social meaning,is essential to understanding

the connection between Ethics and IT"

Deborah Johnson, 1985

Source: Johnson, D. (1985), Computer Ethics, First Edition, Englewood Cliffs, NJ: Prentice­Hall; 

Deborah Johnson

2015: Weizenbaum Award"... for her life­long contributions to information and computer ethics"

21 / 44

Reclaiming Conversation

22 / 44

Good ICT

ICT can be Good for Human Beings When the Systems are Designed using a Human­Centred approach

Complex Interactions of the Human Being and ICT.Experiences can be enjoyable only if 

the System and the Human­Computer Interfaces are designed taking into account Human Limits.

Competences Needed: Human­Computer Interaction, Design­for­All,

e­Inclusion,and Methods such as Participatory Design.

GOOD ICT?

23 / 44

Diventa urgente educare i più giovani all’uso responsabile delle tecnologie in rete. E' molto utile il decalogo “Muri mediatici, industria dell’odio, buone pratiche per contrastarli”prodotto da Articolo21 e dalla Rivista San Francesco: 

Non scrivere degli altri quello che non vorresti fosse scritto di te, Non temere le rettifiche, Dai voce ai più deboli, Impara a ‘dare i numeri’ (sostenere con argomenti le proprie posizioni), Le parole sono pietre, usale per costruire ponti, Diventa ‘scorta mediatica’ della verità, Non pensare di essere il centro del mondo, Il Web è un bene prezioso – Sfruttalo in modo corretto, Connettiti con le persone, Porta il messaggio nelle nuove piazze digitali.”  Articolo21 (2018), Firmato ad Assisi manifesto contro muri mediatici promosso da Articolo 21 e Rivista San Francesco, www.articolo21.org.

Il ruolo dell'educazionePer un'Ecologia dell'Infosfera

24 / 44

Planet

25 / 44

"Dipinte in queste riveson dell’umana gente

le magnifiche sorti e progressive"Giacomo LeopardiLa Ginestra, 1836

26 / 44

"Club di Roma, 1972"

Source: "The Limits to Growth", Donella H. Meadows, Dennis L. Meadows, Jørgen Randers, William W. Behrens III, Universe Books, 1972

William W. Behrens III, Jay W. Forrester, Donella H. Meadows, Dennis L. Meadows, Jørgen Randers, 1972 

27 / 44

Clean ICT?

High Tech generates Toxic Hazards throughout its entire lifecycle (including Design, Production, Consumption and Disposal)

Consider the Environmental impact (the Materials involved, Chip Manufacturing, Power Consumption of Data Centres and Devices, 

ICT Applications, e­Waste Management and Recycling)

Is ICT Exponential Growth Sustainable? Maybe we need Paradigms based on Cycles? "Circular Economy"?

28 / 44Source: How Clean Is Your Cloud?, Greenpeace, 2012

How Clean Is Your Cloud?

29 / 44

Agbogbloshie (Accra), Ghana, Africa

Source: Agbogbloshie: the world's largest e­waste dump, The Guardian, 2013

30 / 44Source. www.shell.com/scenairos, 2013

Global CO2 Emissions

31 / 44

By 2030 ICT can reduceGlobal CO

2 Emissions: +1,25 ­12,1 = ­10,85 GtCO

2

0

1

2

3

0,360,30,59

End-users DevicesVoice & Data NetworksData Centers

-13

-12

-11

-10

-9

-8

-7

-6

-5

-4

-3

-2

-1

0

-1,8

-3,6

-2

-2

-2,7

Manufacturing

Buildings

Agriculture

Transportation

Power­10,85 GtCO

2 = 

­19,7% of Global GHG in 2050 (55GtCO

2)

GtCO2

0

Source: Global eSustainability Initiative, 2015

32 / 44

The challenge for the next 10 Years

Source: FROM SMART TO SENSELESS: The Global Impact of 10 Years of Smartphones, Greenpeace, 2017

33 / 44

Internet of Thingsenabler ofCircular Economy?

Source: World Economic Forum report: Intelligent Assets, Unlocking the Circular Economy Potential, 2016

34 / 44Source: Guide to Greener Electronics 2017, Greenpeace, 17 October 2017

35 / 44

A Smartphone with Social Values:that pays attention to Mining, Design, Manufacturing, Lifecycle

Slow­Tech Case Study Fairphone.com

Source: www.fairphone.com

36 / 44

Fair ICT

Source: www.fairphone.com

37 / 44

IFIP (International Federation for Information Processing)"Global Industry Council (GIC) 2020 ­ Skill Assessment Report

August 2015

"... Revised Definition for the Computing Professional:Given the reach of ICT in our lives, it is important for an ICT Professional to be:

­ Technically Strong (in order to use the Right Technology for the Relevant Problem)

­ Ethically Grounded (to ensure that Technology is put to the Right Use),

­ Socially Conscious (so that the technical solution takes into consideration elements of Sustainability)

­ Business Savvy (to ensure commercial viability which is required for Social Prosperity and Funding of new Developments)" (pag.47).

2015: Definition for the Computing Professional

38 / 44

progettiamo sistemi tecnicamente affidabili... e

socialmente desiderabili,

ambientalmente sostenibili,

eticamente accettabili.

39 / 44Source: Palrgrave, 2018

40 / 44

Digital Literacy

Scientific MethodProblem SolvingComputational ThinkingCoding

Dal Codingalla Saggezza Digitale

Digital Wisdom

Digital IdentityOnLife (online & offline blending)

Ethical HackersSlow Tech

41 / 44

Una storia­di­storieper un'introduzione gentile 

all'informaticaSource: Loccioni, 2018

42 / 44

"In 2018, we still believethat it's acceptable

for companies to maximise their profits,regardless of the social, environmental and human

consequences"

Tim O'ReillyDo More, Do Things That Were Previously Impossible!

SxSW, 9 March 2018

Tim O'Reilly

43 / 44

Adriano Olivetti(1901­1960)

Source: Archivio Storico Olivetti, www.acroliv.org

"Può l'industria darsi dei fini?Si trovano questi semplicemente

nell'indice dei profitti?"

Adriano OlivettiDiscorso "Ai lavoratori di Pozzuoli"

per l’inaugurazione dello stabilimento di Pozzuoli, 23 Aprile 1955in A.Olivetti (1959), "Citta' dell’uomo", Edizioni di Comunita', Milano

44 / 44

ICT, Made for Humans

Norberto PatrignaniIvrea, 27 Ottobre  02018

Grazie!