а) Представим знаменатель в виде:
x^4 - 1 + (sqrt(x) - 1), откуда становится ясно, что на промежутке интегрирования:
x^4 - 1 + (sqrt(x) - 1) > x^4 - 1
бОльшим знаменателям соответствуют мЕньшие дроби, поэтому:
наша подынтегральная функция < sqrt(x-1) / (x^4 - 1) - теперь исследуем сходимость интеграла от этой функции с помощью предельного признака сравнения: сравниваем со сходящимся интегралом от 1/sqrt(x-1), в результате чего получается конечное ненулевое число, а значит, интеграл от sqrt(x-1) / (x^4 - 1) сходится вместе с интегралом от 1/sqrt(x-1). И, по построенному неравенству (обычному признаку сравнения) сходится и исходный интеграл.
Подробная инфа по признакам:
http://mathprofi.ru/priznaki_shodimosti_nesobstvennyh_integralov_vtorogo_roda.html

б) Ну, тут всё просто: с помощью предельного признака сравнения сравним исследуемый интеграл со сходящимся интегралом от 1 / x^2
После устранения четырёхэтажности дроби ( 1 / x^2 - внизу) получим предел от:
x * (sqrt(1/x+1) - 1) - неопределённость типа "бесконечность * 0" устраняем умножением и делением на сопряженное выражение (sqrt(1/x+1) + 1), в результате чего получатся конечное ненулевое число, следовательно, наш интеграл сходится вместе с интегралом от 1 / x^2
Подробная инфа по признакам:
http://mathprofi.ru/kak_issledovat_shodimost_nesobstvennogo_integrala.html

Успехов!