Диофантовым уравнением второго порядка с двумя неизвестными \(x, y \) будем называть уравнение вида \(Ax^2 + Bxy + Cy^2 + Dx + Ey = F\), где \(A, B, C, D, E, F \in Z\) и хотя бы одно из чисел \(A,B,C\) отлично от нуля. Общая теория решения таких уравнений достаточно сложна, поэтому приведем лишь основные методы.

Одним из таких методов является разложение на множители. Он состоит в том, что левая часть данного уравнения каким-либо образом раскладывается на множители (чаще путем нахождения дискриминанта), и задача сводится к перебору конечного числа вариантов.

Если в уравнении отсутствует член, содержащий \(x^2\) или \(y^2\), т.е \(A\) либо \(C\) равно нулю, но при этом \(B\neq 0\), то такое уравнение решается методом выделения целой части. Пусть, например, \(A = 0\). Выразим \(x\) через \(y\):

\(Bxy + Cy^2 = Dx = Ey = F \Leftrightarrow x(By + D) = F - Ey - Cy^2\), откуда  \(x= {{F-Ey-Cy^2} \over By+D}\).
Далее делим многочлен  \(F - Ey - Cy^2\)  на многочлен  \(By = D\)  с остатком, т.е. представим данную дробь в виде \({{F-Ey-Cy^2} \over By+D} = Py + Q + {R\over By+D}\), где  \(P, Q, R\)  – рациональные числа.
Подобрав, при необходимости, целое число  \(T\)  и домножив на него обе части уравнения  \(x = Py + Q +{R\over By+D'}\), получим уравнение  \( Tx = P'y + Q' +{R'\over By+D}\), где  \(P', Q', R'\)  уже являются целыми числами.
Дальнейшее решение сводится к перебору всех делителей числа \(R'\) (если  \(R' = 0\),  то уравнение становится линейным).

Если диофантово уравнение второго порядка каким-либо образом (например, выделением полных квадратов) приводится к виду \(Ax^2 + Cy^2 = F\), где \(A, C, F\) - целые, отличные от нуля числа, то метод решения зависит от знаков коэффициентов при переменных.
Если \(A\) и \(C\) имеют один и тот же знак, то используются следующие оценки (пусть \(A, C, F > 0\)): \(Ax^2 + Cy^2 = F\Rightarrow x2 \leq {F \over A} \Leftrightarrow - \sqrt {F \over A} \leq x \leq \sqrt {F \over A} \) .

Далее задача сводится к перебору конечного числа вариантов. Если же \(A\) и \(C\) имеют разные знаки, то в общем виде решение уравнения достаточно сложно, но в некоторых случаях можно, например, перебором остатков доказать, что уравнение не имеет решений в целых числах.