Dans cet exemple, nous atténuons l’une des hypothèses du théorème de Fubini, soit la continuité de la fonction \(f\text{.}\) Nous allons construire un exemple dans lequel les deux intégrales des deux ordres d’intégration existent, mais ne sont pas égales. Plus précisément, choisissons \(\cR=\Set{(x,y)}{0\leqslant x\leqslant 1,\ 0\leqslant y\leqslant 1}\) et définissons une fonction continue sur \(\cR\text{,}\) sauf à l’origine.
Pour commencer, soit \(\d_1,\d_2,\d_3,\ \dots\text{,}\) une suite de nombres réels tels que
\begin{equation*}
1=\d_1 \gt \d_2 \gt \d_3\gt\ \cdots\ \gt\d_n\rightarrow 0.
\end{equation*}
Par exemple, \(\d_n=\frac{1}{n}\) ou \(\d_n=\frac{1}{2^{n-1}}\) sont des choix valables. Pour chaque entier positif \(n\text{,}\) posons l’intervalle \(I_n=]\d_{n+1},\d_n]=\Set{t}{\d_{n+1} \lt t\leqslant \d_n}\) et posons \(g_n(t)\) une fonction non négative et continue vérifiant
\(g_n(t)=0\) si \(t \not\in I_n\text{,}\) et
\(\int_{I_n}g(t)\,dt=1\text{.}\)
Il existe plusieurs exemples d’une telle fonction, par exemple
\begin{equation*}
g_n(t)=\left(\frac{2}{\d_n-\d_{n+1}}\right)^2\begin{cases}
\d_n-t& \text{si } \half(\d_{n+1}+\d_n)\leqslant t\leqslant \d_n\\
t-\d_{n+1}& \text{si }\d_{n+1}\leqslant t\leqslant \half(\d_{n+1}+\d_n)\\
0& \text{sinon}
\end{cases}.
\end{equation*}
Voici un résumé de ce qui a été fait jusqu’à maintenant.
On a subdivisé l’intervalle \(0 \lt x\leqslant 1\) en une infinité de sous-intervalles \(I_n\text{.}\) À mesure que \(n\) augmente, les sous-intervalles deviennent de plus en plus petits, et \(I_n\) s’approche de plus en plus près de zéro.
On a défini, pour chaque \(n\text{,}\) une fonction non négative et continue \(g_n\) qui s’annule lorsque \(t\) est à l’extérieur de \(I_n\) et dont l’intégrale sur \(I_n\) vaut 1.
Maintenant, définissons l’intégrande \(f(x,y)\) en fonction de ces sous-intervalles \(I_n\) et de ces fonctions \(g_n\text{.}\)
\begin{equation*}
f(x,y)=\begin{cases}
0& \text{si } x=0 \\
0& \text{si } y=0 \\
g_m(x)g_n(y)& \text{si } x\in I_m,\ y\in I_n \text{ et } m=n\\
-g_m(x)g_n(y)& \text{si } x\in I_m,\ y\in I_n \text{ et } m=n+1\\
0& \text{sinon}
\end{cases}
\end{equation*}
On peut imaginer \(]0,1]\times]0,1]\) comme l’union de plusieurs petits rectangles de dimensions \(I_m\times I_n\text{,}\) telle qu’illustrée dans la figure ci-dessous. Sur la majorité de ces rectangles, \(f(x,y)\) vaut \(0\text{.}\) Les exceptions sont les rectangles gris foncé de dimensions \(I_n\times I_n\) sur la “diagonale” de la figure ainsi que les rectangles gris pâle de dimensions \(I_{n+1}\times I_n\) à la gauche de la “diagonale”.
Sur chaque rectangle gris foncé, \(f(x,y)\geqslant 0\text{,}\) et le graphe de \(f(x,y)\) est le graphe de \(g_n(x)g_n(y)\) qui ressemble à une pyramide. Sur chaque rectangle gris pâle, \(f(x,y)\leqslant 0\text{,}\) et le graphe de \(f(x,y)\) est celui de \(-g_{n+1}(x)g_n(y)\) qui ressemble plutôt à une pyramide inversée.
Maintenant, fixons un \(y\) tel que \(0\leqslant y\leqslant 1\) et calculons \(\int_0^1 f(x,y)\ \dee{x}\text{.}\) Ainsi, nous intégrons \(f\) le long d’une droite parallèle à l’axe des abscisses. Si \(y=0\text{,}\) alors \(f(x,y)=0\) pour tout \(x\text{,}\) de sorte que \(\int_0^1 f(x,y)\,\dee{x} = 0\text{.}\) Si \(0 \lt y\leqslant 1\text{,}\) alors il existe exactement un entier positif \(n\) tel que \(y\in I_n\) et \(f(x,y)=0\text{,}\) sauf lorsque \(x\) se trouve dans \(I_n\) ou dans \(I_{n+1}\text{.}\) Ainsi, pour \(y\in I_n\text{,}\)
\begin{align*}
\int_0^1 f(x,y)\,\dee{x}&=\sum_{m=n,n+1}\int_{I_m} f(x,y)\,\dee{x}\\
&=\int_{I_n} g_n(x)g_n(y)\,\dee{x}-\int_{I_{n+1}} g_{n+1}(x)g_n(y)\,\dee{x}\\
&=g_n(y)\int_{I_n} g_n(x)\,\dee{x}-g_n(y)\int_{I_{n+1}} g_{n+1}(x)\,\dee{x}\\
&=g_n(y)-g_n(y)=0.
\end{align*}
Ici, nous avons utilisé à deux reprises le fait que \(\int_{I_m}g(t)\,dt=1\) pour tout \(m\text{.}\) Ainsi, \(\int_0^1 f(x,y)\,\dee{x}=0\) pour tout \(y\text{,}\) et donc \(\int_0^1\Big[\int_0^1
f(x,y)\ \dee{x}\, \dee{y}\Big]=0\text{.}\)
Finalement, nous fixons un \(x\) tel que \(0\leqslant x\leqslant 1\) et nous évaluons \(\int_0^1 f(x,y)\ \dee{y}\text{.}\) Cette fois, nous intégrons \(f\) le long d’une droite parallèle à l’axe des ordonnées. Si \(x=0\text{,}\) alors \(f(x,y)=0\) pour tout \(y\text{,}\) donc \(\int_0^1 f(x,y)\,\dee{y} = 0\text{.}\) Si \(0 \lt x\leqslant 1\text{,}\) alors il existe un unique entier positif \(m\) tel que \(x\in I_m\text{.}\) Si \(m\geqslant 2\text{,}\) alors \(f(x,y)\) est nulle, sauf lorsque \(y\) est dans \(I_m\) ou dans \(I_{m-1}\text{.}\) Mais si \(m=1\text{,}\) alors \(f(x,y)\) est nulle, sauf pour \(y\in I_1\text{.}\) (Voir la figure ci-dessus de nouveau!) Ainsi, pour \(x\in I_m\text{,}\) avec \(m\geqslant 2\text{,}\)
\begin{align*}
\int_0^1 f(x,y)\,\dee{y}&=\sum_{n=m,m-1}\int_{I_n} f(x,y)\,\dee{y}\\
&=\int_{I_m} g_m(x)g_m(y)\,\dee{y}-\int_{I_{m-1}} g_{m}(x)g_{m-1}(y)\,\dee{y}\\
&=g_m(x)\int_{I_m} g_m(y)\,\dee{y}-g_m(x)\int_{I_{m-1}} g_{m-1}(y)\,\dee{y}\\
&=g_m(x)-g_m(x)=0.
\end{align*}
Mais, pour \(x\in I_1\text{,}\)
\begin{align*}
\int_0^1 f(x,y)\,\dee{y}&=\int_{I_1} f(x,y)\,\dee{y}
=\int_{I_1} g_1(x)g_1(y)\,\dee{y}
=g_1(x)\int_{I_1} g_1(y)\,\dee{y}\\
&=g_1(x).
\end{align*}
Ainsi,
\begin{equation*}
\int_0^1 f(x,y)\,\dee{y}=\begin{cases}
0&\text{si } x\leqslant \d_2 \\
g_1(x)&\text{si } x\in I_1
\end{cases},
\end{equation*}
de sorte que
\begin{equation*}
\int_0^1 \bigg[\int_0^1 f(x,y) \ \dee{y} \bigg] \dee{x}
=\int_{I_1}g_1(x)\,\dee{x}=1.
\end{equation*}
La conclusion est que, pour la fonction \(f(x,y)\) définie ci-dessus, qui existe pour tout \(0\leqslant x\leqslant 1\text{,}\) \(0\leqslant y\leqslant 1\) et qui est continue partout, sauf en \((0,0)\text{,}\) nous avons
\begin{equation*}
\int_0^1\int_0^1 f(x,y)\ \dee{x}\, \dee{y}=0
\qquad\text{et}\qquad
\int_0^1\int_0^1 f(x,y)\ \dee{y}\, \dee{x}=1.
\end{equation*}