книги / Размышления о современной технике

моральных партнеров или как существа, обладающие практичес­ ким разумом. По крайней мере, против этого протестуют наши классические представления о моральности и наша этическая интуиция, унаследованные нами от предшествующих поколе­ ний26. Ведь в таком случае нам пришлось бы размыть все гра­ ни и смысл моральной терминологии и самого языка морали для того, чтобы вписать компьютерные системы как морально действующие лица в Кантово царство нравственности с его автономией в деятельности и моральном законодательстве и в учение о практическом разуме того же Канта. Компьютеры, я повторяю, не являются социальными или моральными суще­ ствами, если даже, принятые ими запрограммированные реше­ ния могут иметь достаточно второстепенную и непрямую мо­ ральную релевантность и по этой причине кем-то могут счи­ таться «ответственными». В рамках гражданского права ком­ пьютер или информационная система, с помощью вышеопи­ санного трюка по их страхованию, не могут быть превращены в моральную личность (в такой же мере, как и, вопреки мнению Фрэнча, какое-нибудь экономическое предприятие или социаль­ ный институт). Само понятие вменения ответственности можно и нужно дифференцировать в нормативном смысле: быть морально ответственным (пусть даже во второстепенном смысле, как это имеет место с корпорациями, если им вменять ответственность), не имея статуса моральной личности, — следует отличать от спо­ собности аргументированного, гибкого в зависимости от ситуа­ ции и приспособляемости к среде «обдумывания». Градация раз­ личных ступеней в континууме этих способностей возможна и необходима, если даже первоначальную ответственность, ответ­ ственность как таковую, нельзя вменять информационным сис­ темам и системам принятия решений в моральном смысле рас­ сматриваемого понятия. Стремление преднамеренно и слишком поспешно превращать компьютер в моральное существо означа­ ло бы открывать слишком легкие пути для выхода из дилеммы ответственности, выбирать стратегию уклонения от решения про­ блемы, которая в свою очередь может привести к уходу от соб­ ственной моральной ответственности. И тогда компьютер ока­ зался бы в роли козла отпущения. Если нельзя привлекать к ответственности личность, то крайне легко сваливать ответст­ венность на компьютер или вообще от нее отказаться. Но ведь моральная ответственность характеризуется именно тем, что независимо от того, идет ли речь о личной или о совместной ответственности, от нее невозможно уклониться, ее нельзя отклонять, ее нельзя «делегировать» другим или разбить на части

вплоть до исчезновения27. Как уже говорилось, вменять компью­ терам моральную ответственность означало бы встать на путь легко применяемой стратегии уклонения от действительной моральной ответственности. Именно поэтому наше моральное сознание не должно позволять открывать этот путь выхода из дилеммы или форсировать его. Мы не должны позволять безответственность даже на вторичном уровне, и надо сказать, что не существует никаких простительных обстоятельств, дающих нам «право» или какое-либо основание сваливать нашу ответственность на ком­ пьютеры. От моральной ответственности невозможно уходить, ее нельзя «передавать» другому, она не может быть как норматив­ ное вменение ответственности решена в запрограммированных разрешающих системах, если даже ее крайне трудно кому-то вме­ нить или нести ее.

Мы должны создавать управляемые модели, определяющие участие в ответственности, которые позволили бы нам морально удовлетворительно разрешать дилемму кажущегося стирания от­ ветственности в системах.

Ссылки

1МоогЬ.Н. Ьо8юа1 МаИеаЪПку. Ые\у Уогк, 1985, р. 269 (1п: Ме1арЫ1оз-

4Нае/пег К. А. а. О., 8. 92-93.

5Нае/пег К. А. а. О., 8. 89.

6Нае/пег К. А. а. О., 8. 340.

7Там же, с. 351.

8Там же.

9Там же, с. 355.

10Ьепк Н. йЬег Уегат^огШпБзЪеБпГГе ипс! баз Уегап1\УОг1ипб5ргоЫет

тбег ТесЬтк. 1п: Ьепк Н, ЯороШ С. (Нг$б). ТесЬтк ипб Е1Ык. ЗтиеаП,

1987, 8. 117 Я*.

11 См. в э т о й с в я з и : №егкапе Р.Н. Регзопз, ШбЬ1з, апб Согрогабопз. Епё1е\Уооб СШГз, 1985, р. 72 1Г.

12ЫеЫгаП Е. А. 0135опап2. АИпЬибоп ипб 2изсЬге1ЪипБ у о п УегаЬуогШ-

сЬкеЯ. 1п: 2еизсЬпК Гиг 8о21а1рзусЬо1оБ1е, N9 6, 1975, 8. 212-226.

13ЗеаНе ЬЯ. Мтбз, Вгатз, апб Ргоегаттез. 1п: ТЬе ВеЬауюга1 апб Вгат 8с1епсез, N9 3, 1980, 8. 450—56; его же: Мтбз, Вгатз апб 8с1епсе. СатЬпбёе, Мазз., 1984; немецкий перевод: Се1з1, Шгп ипб МззепзсЬаЙ, РгапкГиН ат Мат, 1986.

14 Вупит Т.]У. Аг1Шс1а1 ВкеПщепсе, Вю1ову апс! 1п1еп1юпа1 31а1ез. 1п:

Ме1арЫ1озорЬу 16, 1985, 5. 355-377.

15 См. указанные выше его работы, а также: Зеаг1е РК. У/Ьа1 15 ап 1п1епиопа1 81а1е? 1п: М1пс1, № 88, 1979, рр. 74—92; его же: 1п1еп1юпа1ку.

СатЬгШее, Мазз., 1983.

16 Наще1апй /. Рго§гатз, Саиза1 Ро^егз, апс! 1п1еп1юпа1ку. 1п: ТЬе Ве-

Ьауюга1 апс! Вгат Заепсез, 3, 1980, р. 432.

17 ВесИШ IV. АипЬШтв ЯезропзкэИку №СотрШег ЗузГетз. 1п: Ме*арЬ-

ПозорНу, 16, 1985, рр. 296-306.

18 Зпаррег /. IV. ЯезропзкэПку Гог СотрШег-Вазес! Еггогз. 1п: МеШрЫ-

ЬзорЬу, 16, 1985, рр. 189-195.

19 Зпаррег /. Ж Ор. ск., р. 191.

20Веск(е1 IV. АИпЬиИпе ЯезропзкэПку ю СотрЩег Зуз1етз. 1п: "МеШрЬ-

Позорку", 16, 1985, 303.

21 ВескШ IV. Ор. ск., р. 304.

22 ВесЫе1 IV. Ор. ск., р. 305.

23Там же.

24Там же.

23 См. указанную книгу Уерхейна, а также: Ргепск Р.А. СоНесПуе апс! Согрога1е ЯезропзкэПку. Ые\у Уогк, 1984; БопаМзоп Тк. СогрогаНопз апс!

МогаШу. Еп§1е>Уоос1 СИГГз, 1982.

26 Согласно Уерхейну (Ц^егкапе Р.Н. Ор.ск., р. 38), хотя компьютер­

ные системы и интенциональны, они все же не являются ни интенционально действующими лицами, ни морально ответственными. Они «не свободны и не автономны», поэтому «не способны распоряжаться свои­ ми собственными «правами» и располагать такими правами.

27 См.: ЬасШ/. СоПесИуе апс! ГпсНуШиа! Мога! ЯезропзкэПку т Еп§1-

пеепщ*: Зоте (Зиезйопз. 1п: 8ос1е1у апс! ТесЬпо1о§у, 1ипе, 1982, рр. 3-10; ЬасМ /. РЫ1озорЫса1 Яеплагкз оп РгоГеззкэпа1 ЯезропзкэПку т Ог^ашга-

1юпз. 1п: АррПес! РЬПозорку, 1, 1982, № 2, рр. 1-13.

Г л а в а VIII

ДИСКУССИЯ ПО ПРОБЛЕМАМ ОТВЕТСТВЕННОСТИ В ТЕХНИКЕ

«Свободное исследование любого возможного объекта размыш­ лений в любом возможном направлении вплоть до безграничнос­ ти несомненно является правом человека», писал в XIX в. Йоганн Готлиб Фихте, знаменитый берлинский профессор.

«Чудовищ великое множество. И все же Нет ничего чудовищнее человека».

Это слова Софокла, вложенные им в уста хора стариков в трагедии «Антигона». Рассуждая о деяниях людей, Софокл тогда мог связывать их деятельность лишь с кораблями, лемехом, воен­ ным искусством, с луком и стрелой, копьем или дротиком в ру­ ках воина, со строительством домов, городов. Он не мог даже представить себе возможности развития технического могущест­ ва человека, который сегодня с помощью военной техники и ка­ тастроф в области химии и ядерной техники может повредить или просто уничтожить, регионально или Континентально, все высшие формы жизни. Техническое могущество человека теперь уже столь велико, что он превратился «в господина и владельца природы», как сказал некогда Рене Декарт. А почти одновремен­ но с ним Фрэнсис Бэкон заметил: власть зависит от умения, а умение от знаний. И знание именно сегодня стало силой, как и предвидел Бэкон. Однако вместе с могуществом и властью воз­ растает и ответственность; расширяющиеся же возможности дей­ ствия и воздействия порождают и более высокие ее формы.. Че­ ловек еще никогда не располагал столь мощной технической си­ лой. Следствием же этого оказалось то, что человек никогда в истории не стоял перед необходимостью нести столь громадную ответственность, как сегодня. Его многократно увеличившаяся, при еще больших внутренних возможностях, техническая мощь сегодня уже грозит распространить свое воздействие не только на человека, но и на все виды живых организмов на Земле, на его собственную среду, на его жизненный мир и в конечном счете на всю биосферу нашей планеты. Свободен ли этот процесс от

противоречий? Постижим ли он и управляем ли он, взятый в целом?

Если даже мощь техники дойдет до чудовищных размеров и силы, все же ни эта сила, ни возможности знания не беспредель­ ны. Власть техники необходимо ограничивать вниманием, забо­ той и социальным обеспечением других людей, заботой о всех других живых существах, и это необходимо осуществлять с помо­ щью морали и права. Само знание усиливает не только мощь техники, но и ответственность за ее последствия.

Все эти вопросы и положения исследованы еще мало и недо­ статочно обдуманы философски.

Что касается той сферы дискуссий, которая связана с акту­ альными вопросами дня, то я могу сослаться на пример из своего собственного академического опыта.

Несколько лет тому назад, еще в «дочернобыльские» времена, в нашем (Карлсруэ) университетском журнале «Ргебегклапа» я опубликовал статью, в которой говорил, что ответственность за крупные научно-технические проекты не могут в действитель­ ности нести отдельные личности. Дословно я писал следующее: «Отдельно взятая личность может лишь рго Гогта, т.е. формаль­ но, как публично, так и политически, нести ответственность за крупный технологический проект. Какая же польза из того, что личность, скажем, в качестве директора атомной электростан­ ции, после крупной по масштабам катастрофы уйдет в отставку? В настоящее время чисто формальное взятие на себя ответствен­ ности уже явно недостаточно». На эту статью я почти немедленно получил гневную и возмущенную «отповедь» от одного физика из г. Юлиха в виде письма, из которого я бы хотел привести некото­ рые выдержки.

«То, что сообщает нам доктор Ленк, — писал он, — о реаль­ ных аспектах ответственности, особенно об ответственности тех­ ников, и в частности то место в его статье, где речь идет о воз­ можных широкомасштабных катастрофах (ВШК), является, мяг­ ко говоря, самым низкопробным искажением фактов...» Круп­ номасштабные катастрофы, как возможные формы неполадок или сбоев, «являются для техника как бы уставным событием, и он это хорошо знает». «Ответственность техника заключается в его обязанности надежно гарантировать нас от всякого рода сбоев техники, неполадок и т.п., и эту его обязанность никто не отме­ нял, она кодифицирована в правовом порядке и в случае невы­ полнения своих обязанностей техник может быть привлечен к суду. Это известно всем, и можно только жалеть, что этого не знает г-н Ленк. По-видимому, совершенно по-иному обстоит дело

с вопросом о фактической стороне ответственности у людей, для которых это лишь повод играть в словесные игры, например, когда эти герои словесности оперируют словечками вроде «ВШК», уси­ ленно навязывая свои представления общественности, расписы­ вая ничем не обоснованные опасности, связанные с техникой...» и т.д. Автор письма поносит меня как мастера манипулировать путаными «агитационно-политически-философско-социологичес- кими» фразами, преподносимыми в академическом стиле. Тако­ вы эти «мастера наподобие доктора Ленка», любезно замечает автор письма. В заключение он советует мне «оставить для себя академическую этику, в которой еще много недостатков» и кото­ рые следует устранить... «И пусть г-н Ленк «поменьше рассужда­ ет об этических проблемах техники, а лучше и глубже разберется в различных аспектах самой техники ответственности». Я должен сказать, что в последних словах он прав, сей физик из прохлад­ ного северо-запада Германии, и я охртно принимаю его совет к исполнению.

Конечно же, упомянутый автор письма, не понял сути моей аргументации. Быть может нельзя ставить ему в упрек и то, что он принял «ВШК» лишь как рядовой случай сбоя или неполадок, над которым стоит «рефлектировать», задумываться, а следова­ тельно, не как нечто вполне реальное. Одним словом, он принял это лишь как специально придуманную модель (в тот период еще не было известно, что также и в Харрисбурге произошло рас­ плавление ядерного устройства): Все это так. Однако намного важнее то, что политическая стратегия ответственности отдель­ ного лица (директор Чернобыльской атомной электростанции, как известно, был смещен со своего поста) и правовое кодифи­ цирование как действенные инструменты регулирования про­ блемы ответственности уже явно не достаточны. Наука и тех­ ника стали тем временем слишком могущественными, чтобы мы продолжали придерживаться традиционных форм право­ вого регулирования и связанных с ними мероприятий, осо­ бенно когда речь идет об экстремальных случаях. Когда ди­ ректор атомной электростанции или министр соответствую­ щего ведомства должны, «собрав свои вещички», выйти в от­ ставку (а в случае с последним чаще бывает так, что г-н министр отправляет в отставку своего заместителя, и притом с неплохим пенсионны м обеспечением), то все это показывает лишь от­ носительную бесполезность и неэффективность такого рода ре­ гулирования. Я повторяю еще раз, что проблема ответствен­ ности крупных проектов, предложенных такими мощными .ин­ ститутами, как наука и техника, имеющими огромное влияние

и воздействие на общество, не может больше решаться только формалистически и политически.

Все же некоторые, ориентированные на практику анализы здесь могли бы быть полезными. Формулирование различных по­ стулатов само по себе еще недостаточно; анализы различных по­ нятий ответственности здесь также недостаточны, хотя они и крайне необходимы. Если же они проводятся, то должны вести к ощутимым, реально применимым моделям и мероприятиям. В особенности наряду с личными аспектами совместной мораль­ ной ответственности должны быть разъяснены институциональ­ ные проблемы в той же сфере моральной или аналогичной ей совместной или коллективной ответственности. Вправе ли мы ставить этот вопрос об ответственности столь просто и решать его столь же просто, как это сделал Карл Фридрих фон Вайцзекер, писавший недавно (1983) об ответственности науки следую­ щее: наука ответственна за последствия ее применения; ученый же за последствия (реализацию) своих знаний ответствен не пе­ ред законом, а лишь морально. Но разве может наука как опреде­ ленный институт, как определенная область культуры вообще быть морально ответственной? Разве моральная ответственность по своему замыслу не адресована конкретным лицам, «отдельно взя­ тым» индивидам? Труппам? Этические понятия и моральные или близкие к моральным представления об ответственности дейст­ вительно следует значительно шире, и даже, пожалуй, более ре­ шительно, распространять на институты и на коллективных носителей ответственности, а сами эти понятия и представления должны анализироваться более дифференцированно. Индивиду­ альная и институциональная, т.е, коллективная, ответственность

— не одно и то же. И оба эти вида ответственности не сводимы друг к другу. И, как я уже говорил, за крупные проекты не может нести ответственность одно единственное лицо. Разработка эти­ ки для институтов, других научных или технических коллективов, настоятельно необходима, особенно в тех условиях, при которых не все проблемы ответственности могут быть введены в правовые рамки. Ибо это было бы, с одной стороны, просто невозможным, с другой же — недопустимым ограничением, что препятствовало бы продуктивности исследований и исследовательской свободе.

Монографических работ, посвященных проблемам ответствен­ ности, пока немного, и к тому же почти все они имеют достаточ­ но давние даты появления на свет. Книга В.Вайшеделя «Баз \Уезеп бег УегапЦуогШпё» (Сущность ответственности, 1933), в целом проникнутая духом экзистенциализма, дает феноменологию ос­ новного понятия ответственности, именно — осознанной ответ­

ственности, свободы от ответственности, социальных связей и обусловленности ответственности и особенно самоответственности (ответственности перед самим собой), которую автор рассматри­ вает как признак радикальной свободы человека. Помимо право­ вой и социальной ответственности, отражающихся в принципи­ альном признании закона, Вайшедель обсуждает в общем виде и «ответственной на первой ступени, в конкретной ситуации от­ ветственности», которую он рассматривает как ответственность в собственном смысле этого понятия. Помимо указанных видов, он рассматривает и религиозную ответственность, дает анализ упомянутой самоответственности. Вместе с тем, у Вайшеделя нет никакой типологической дифференциации понятия ответствен­ ности, что, как мне кажется, особенно важно для выявления от­ ношений между различными ее понятиями, и на этой базе — их этической и правовой конкретизации.

Примерно в этом же плане проблему ответственности анали­ зирует и Р.Ингарден. В своей книге «Об ответственности» (ОЬег сИе УегаШлуогШпЕ, Вши^аП, 1970) он обсуждает возможность при­ менения феноменологического анализа к онтическим основани­ ям ответственности, ответственных действий и поступков в тес­ ной связи со структурой личности, со свободой ее и темпоральностью (^ейПсйкеИ), но и он не дает никакой специфицирован­ ной типологии различных видов ответственности, о важности которой говорилось выше.

А.П.Люк^в своей книге: «Человек-исследователь: ученый-гу- манйтарий»1 разбирает преимущественно понятие глобальной ответственности,'не рассматривая в какой-то мере различные обя­ занности, связанные с ролевым поведением или с моральной оцен­ кой с позиций проблематики ответственности, не подводя их даже под разные категории.

Если посмотреть в целом, то в исследованиях проблемы ответ­ ственности более или менее четко обнаруживаются две тенденции.

С одной стороны, отдельные исследования ограничиваются феноменологическим рассмотрением предмета и концептуальным анализом проблемы в целом, а также выявлением индивидуальных и социально-этических рамок ответственности; в то же время в этих работах не рассматриваются вопросы о том, с чем, с какими социальным и другими условиями соотнесена ответственность, как выявлять и формулировать в точных понятиях ее связи с другими аспектами научного и технического развития, какие существуют точки зрения на казалось бы простое и вполне доступное поня­ тие «ответственность». Я уже не говорю об обсуждении приори­ тетных проблем при непосредственных конфликтах.

С другой стороны, в научно-этических работах рассматрива­ ется понятие ответственности в его отношении к человеческим действиям и их последствиям в сфере научной деятельности; но в то же время в этих работах не учитывается и не рассматривается более дифференцированное деление различных типов, уровней

иперспектив интерпретаций понятия ответственности, возника­ ющих в тех или иных ситуациях. В работах почти всегда отсутст­ вует очень важное по своему значению различение между этикой

иуниверсальной моралью, а также нравственными нормами раз­ личных сословий (в этическом и поведенческом кодексах сме­ шиваются «внутренние» и «внешние» точки зрения). Это же можно наблюдать в трудах англосаксонских исследователей феномена ответственности. Все это приводит к заметному общему недо­ статку дискуссий по вопросам ответственности в аспекте прагма­ тической ее концентрации, как и в отношении анализа различ­ ных типов ответственности, различных нюансов отношений по­ нятия ответственности к другим сторонам социальной и эконо­ мической жизни, различных перспектив той или иной интерпре­ тации ответственности.

Втаких условиях не могут быть четко артикулированы кон­ фликты в сфере ответственности между различными сторонами отношений, разными масштабами и различными аспектами ин­ терпретации. Ясная разработка путей выхода из трудных ситуа­ ций, создаваемых конфликтами ответственностей, а также ана­ литическая работа над этими конфликтами для их разрешения на таком пути, пожалуй, невозможны. Научные, труды по пробле­ мам ответственности до сих пор также не выходят за пределы общих объяснений понятия «ответственности как таковой», без ее необходимой дифференциации, неизбежно возникающей как результат наличия перекрывающих друг друга обязанностей, ло­ яльностей, традиций.

Япозволю себе здесь вкратце сформулировать шесть пунктов для будущих исследований и высказать несколько предваритель­ ных соображений и тезисов. Эти пункты таковы:

1) внутренняя ответственность в ее отношении к внешней от­ ветственности техника и ученого, этос в его отношении к этике;

2) различные типы ответственностей на четырех уровнях;

3) проблемы распределения ответственности при коллектив­ ной ответственности;

4)проблема ответотвенности институтов и корпораций;

5)принципы приоритетов (по Верхейну);

6)этика науки и техники как особый случай профессиональ­ ной этики:

К пункту 1. Внутренняя (в смысле внутригрупповая) ответст­ венность ученого по отношению к своему научному сообществу, заключающая в себе правила безупречной научной работы, чест­ ной конкуренции и лучшего по возможности поиска научной ис­ тины и ее обеспечения, должна изучаться не просто сама по себе, но и на фоне многочисленных фактов — в том числе в США и даже в Гарвардском университете, — например, случаев обмана в сфере науки, часто в интересах создания более выгодных условий труда ученого. Замечательная книга Броуда и Уэйда «Ложь и обман в науке»2 (немецкий перевод вышел в 1984 г.) подтвержда­ ет сказанное на весьма драматических примерах. Конечно запо­ веди, названные Х.Мором этическими, как например: «Будь чест­ ным! Не манипулируй данными! Будь безупречно точным! Будь честным относительно приоритетов в данных и идеях! Будь бес­ пристрастным в отношении данных и идей своих соперников!», а также соблюдение свободы исследований, свобода от цензуры, беспристрастность и т.п. не являются в собственном смысле мо­ ральными заповедями, касающимися этики ученого, они просто являются составной частью научной этики. При обсуждении про­ блем, касающихся ответственности, должны внимательно изучать­ ся внутренние и внешние перспективы, и здесь речь, разумеется, идет об аналитическом исследовании. И оба эти аспекта следует соотносить друг с другом. Если ученый соучастник и проводник технического развития и технических изобретений, то его нельзя «освобождать» от всякой идущей «извне» (не «научной») морали, от всякой ответственности. Поэтому следует строго различать внутренние и внешние аспекты ответственности ученого, с од­ ной стороны, и его же, но уже как техника, с другой.

К пункту 2. Понятия ответственности суть понятия отноше­ ния. Обычно люди ответственны перед кем-то за что-то, перед той или иной инстанцией, по определенным стандартам и опре­ деленной системе норм. Ответственность — по меньшей мере, пятиаспектное понятие отношений, и моральная ответственность

— лишь одна из особых ее форм.

При первом членении я пытаюсь различать понятия ответст­ венности на четырех уровнях:: 1) ответственность за те или иные действия (а также за их последствия и результат); 2) компетент­ ная и ролевая ответственность; 3) универсально-моральная от­ ветственность; 4) правовая ответственность (см. схемы на стр. 153—155). Правовая ответственность как таковая мною здесь не рассматривается.

Общая ответственность за деятельность дана схематично, она должна быть наполнена содержанием, конкретным анализом за­