Technological progress should bring greater safety, economic opportunity, and convenience to everyone. And the collection of new types of data is essential for documenting persistent inequality and discrimination. At the same time, as new technologies allow companies and government to gain greater insight into our lives, it is vitally important that these technologies be designed and used in ways that respect the values of equal opportunity and equal justice. We aim to:
- Stop High-Tech Profiling. New surveillance tools and data gathering techniques that can assemble detailed information about any person or group create a heightened risk of profiling and discrimination. Clear limitations and robust audit mechanisms are necessary to make sure that if these tools are used it is in a responsible and equitable way.
- Ensure Fairness in Automated Decisions. Computerized decisionmaking in areas such as employment, health, education, and lending must be judged by its impact on real people, must operate fairly for all communities, and in particular must protect the interests of those that are disadvantaged or that have historically been the subject of discrimination. Systems that are blind to the preexisting disparities faced by such communities can easily reach decisions that reinforce existing inequities. Independent review and other remedies may be necessary to assure that a system works fairly.
- Preserve Constitutional Principles. Search warrants and other independent oversight of law enforcement are particularly important for communities of color and for religious and ethnic minorities, who often face disproportionate scrutiny. Government databases must not be allowed to undermine core legal protections, including those of privacy and freedom of association.
- Enhance Individual Control of Personal Information. Personal information that is known to a corporation — such as the moment-to-moment record of a person’s movements or communications — can easily be used by companies and the government against vulnerable populations, including women, the formerly incarcerated, immigrants, religious minorities, the LGBT community, and young people. Individuals should have meaningful, flexible control over how a corporation gathers data from them, and how it uses and shares that data. Non-public information should not be disclosed to the government without judicial process.
- Protect People from Inaccurate Data. Government and corporate databases must allow everyone — including the urban and rural poor, people with disabilities, seniors, and people who lack access to the Internet — to appropriately ensure the accuracy of personal information that is used to make important decisions about them. This requires disclosure of the underlying data, and the right to correct it when inaccurate.
Signatories:
- American Civil Liberties Union
- Asian Americans Advancing Justice — AAJC
- Center for Media Justice
- ColorOfChange
- Common Cause
- Free Press
- The Leadership Conference on Civil and Human Rights
- NAACP
- National Council of La Raza
- National Hispanic Media Coalition
- National Urban League
- NOW Foundation
- New America Foundation’s Open Technology Institute
- Public Knowledge
Principios de los Derechos Civiles para la Era de la Gran Información
El progreso tecnológico debe aportar una mayor seguridad, oportunidades económicas, y comodidad para todos. La recolección de nuevos tipos de datos es esencial para documentar la persistente desigualdad y la discriminación. Al mismo tiempo, mientras que las nuevas tecnologías permiten que las empresas y el gobierno tengan una mayor percepción de nuestras vidas, es de vital importancia que estas tecnologías sean diseñadas y se utilicen de manera que respeten los valores de la igualdad de oportunidades y de justicia equitativa. Nuestro objetivo es:
- Abandonar la alta tecnología para desarrollar perfiles. Las nuevas herramientas de vigilancia y las técnicas de recolección de datos que pueden reunir información detallada sobre cualquier persona o grupo crean un elevado riesgo de perfiles inexactos y discriminaciones. Se necesitan específicas limitaciones y sólidos mecanismos de auditoría para cerciorarse que estas herramientas se utilizan de una manera responsable y equitativa.
- Garantizar la equidad de las decisiones automatizadas. La toma computarizada de decisiones en áreas tales como el empleo, la salud, la educación, y la actividad crediticia que otorga préstamos deben ser juzgadas por su impacto sobre personas reales, deben funcionar en forma equitativa para todas las comunidades, y en particular, deben proteger los intereses de quienes están en desventaja o que han sido históricamente discriminados. Los sistemas que son ciegos a las diferencias preexistentes que estas comunidades enfrentan pueden llegar fácilmente a decisiones que refuerzan las desigualdades existentes. Puede que se requiera hacer una revisión independiente y encontrar otras soluciones para asegurarse de que un sistema funciona equitativamente.
- Preservar los principios constitucionales. Las órdenes de allanamiento y otros sistemas de supervisión independiente de la aplicación de la ley son particularmente importantes para las comunidades de color y las minorías religiosas y étnicas, que a menudo se enfrentan a un escrutinio desproporcionado. Las bases de datos del gobierno no debe permitir disminuir las protecciones legales fundamentales, incluidas las de privacidad y libertad de asociación
- Mejorar el control individual de la información personal. La información personal que una empresa mantiene—tales como grabar cada movimiento o comunicación de una persona – puede ser fácilmente utilizada por las empresas y el gobierno en contra de las poblaciones vulnerables, como las mujeres, las personas que estuvieron encarceladas, los inmigrantes, las minorías religiosas, la comunidad de LGBT y los jóvenes. Las personas deben tener un control mayor y flexible sobre cómo una empresa recopila datos sobre ellos, y cómo se utilizan y comparten esos datos. La información que no sea pública no debe ser revelada al gobierno sin proceso judicial.
- Proteger las personas cuando sus datos no son exactos. Las bases de datos del gobierno y de las corporaciones deben permitir y garantizar de una manera adecuada que se tenga la exactitud de la información personal de todos—incluyendo la población urbana pobre y la de las zonas rurales, la gente con discapacidades, las personas de edad y quienes no tienen acceso a Internet—ya que se utilizan esos datos para hacer importantes decisiones sobre ellos. Esto requiere la revelación de los datos subyacentes, y el derecho de corregir cuando los datos son inexactos.
Signatarios:
