Здравствуйте, Александр!
1) Результат на картинке соответствует настройкам программ - показания осциллографа и самописца правильные, а вот вольтметр переменного тока показывает ерунду. Попробуйте снимать показания в режиме "медленно" или даже "сверхмеделно", все-таки частота 5 Гц - это период 0,2 сек, и усреднять данные за 0,1 секунду - это иметь полпериода сигнала для измерений. При настройке программ не забудьте подобрать частоту дискретизации АЦП и ЦАП.
2) Прежде всего в программе "Виброметр" стоит фильтр - поэтому показания "Виброметра" и других программ (Осциллографа, самописца, вольтметра) будут отличаться. Также во всех программах есть параметр "усреднение" - если он разный, то и результат может быть разным (зависит от частоты сигнала).
Также следует помнить, что амплитудное и пиковое значение - не совсем одно и то же. Пиковое значение - максимальное значение за время усреднения. Амплитудное - среднее значение амплитуды за время усреднения. На реальном сигнале амплитуное несколько меньше пикового.
Записывать сигналы для постобработки лучше с помошью программы "Запись сигналов" - тогда их можно анализировать любой программой из состава ZETLab. Многоканальным самописцем обычно ведут запись параметров для отчета или последующего просмотра.