В самом общем случае под валидностью эксперимента подразумевают все формы экспериментального контроля, обеспечивающие валидный, или достоверный, вывод. Однако контроль за выводами осуществляется и за пределами экспериментального контроля. Результаты валидного эксперимента могут служить основанием достоверного вывода, если в целом реализована логически обоснованная система умозаключений, включающая взаимопереходы между разными уровнями гипотез, проверяемых в эксперименте, учтена проблема асимметрии вывода, обоснованы широта и уровень обобщений данных (как переноса выводов за пределы проведенного эксперимента).
Чтобы обсуждать адекватность и обоснованность обобщений, исследователь, во-первых, должен быть уверен, что полученная в проведенном эксперименте зависимость действительно представляет (репрезентирует) подразумеваемое в гипотезе отношение между независимой и зависимой переменными, что не произошло – вольной или невольной – подмены изучаемой закономерности. Любое несоответствие означает угрозу правильности, или валидности, последующих выводов.
Во-вторых, установление экспериментальной зависимости подразумевает, что были устранены все конкурирующие угрозы валидному выводу со стороны смешений НП с побочными или сопутствующими переменными. Если какое-либо условие НП неслучайным образом оказалось связанным с активным уровнем смешивающейся переменной, то неизвестным остается, какой из них – независимой или смешивающейся с ней переменной – следует приписать полученный сдвиг в значениях ЗП (случай, когда при возможности отвергнуть нуль-гипотезу, или при достоверности различий выборочных значений ЗП на выбранном уровне значимости, валидность является плохой и экспериментальный эффект может быть рассмотрен как артефакт).
Если обобщения оказались неправильными, они называются артефактными. Плохой экспериментальный контроль может выступать одним из источников неправильных выводов. Другими словами, невалидный эксперимент приводит к неправильным обобщениям.
Пока не рассматривается, в какой степени выбор конкретной формы эксперимента – экспериментального плана – связан с разработкой системы контроля всех возможных угроз выводу об устанавливаемой зависимости. Отметим только, что экспериментальный план как схема сбора данных, а именно: фиксации ЗП при разных условиях НП, включает и указание других направлений экспериментального контроля (выбор типа переменных, осуществление «первичного» контроля, устранение побочных или стабилизация дополнительных переменных, введение расширенной переменной и т.д.). Более подробное описание этих средств планирования станет возможным в связи с представлением оснований классификаций типов экспериментов и экспериментальных схем (см. далее).
Следует учесть, что формулирование системы гипотез, оценка валидности эксперимента и реализация выводов входят как составляющие общего норматива – избежать угроз валидному выводу.
Забегая вперёд, отметим, что проблема правильности выводов – это также проблема контроля за логической компетентностью. Неправильные, или артефактные, выводы исследователь может сделать и в том случае, если эксперимент был достаточно валидным. Дело в том, что никакая экспериментальная схема не может контролировать всего пути рассуждений исследователя об имперической зависимости. На этом пути он может совершить ошибку умозаключений, которые и приводят к артифактным выводам. Наиболее частые в психологических исследованиях ошибки умозаключений, которые случаются при обобщении эмпирических зависимостей, обсуждаются в главе 14.